Новейшие музыкальные ИИ позволяют вводить собственные тексты для создания песен. К сожалению, некоторые используют эти функции для ввода расистских, антисемитских и гомофобных текстов с целью разжигания ненависти.

Компания ActiveFence, занимающаяся онлайн-безопасностью, осветила проблему в новом отчете. «Злоумышленники быстро выявляют конкретные уязвимости, позволяющие различными способами злоупотреблять этими платформами и создавать вредоносный контент»,- говорится в сообщении TechCrunch. Например, поменять местами фонетическое написание нецензурных выражений, чтобы избежать проверки системами модерации, существующими на этих сервисах.

ActiveFence предположила, что для решения этих проблем важна более качественная модерация входных и выходных данных.

ИСТОЧНИК: Music Ally