Ученые из Университета Аалто провели исследование о слабостях в системах машинного обучения, распознающих оскорбления и обсценную лексику в социальных сетях.

По результатам оказалось, что обмануть ИИ способен кто угодно: ученые выяснили, что современные обработчики естественного языка не справляются с опечатками и измененными границами слов. Кроме того, машина принимает за цензурное выражение, в котором есть нейтральное слово, например «love».
Не справляется ИИ и с контекстом предложений. Ученые пришли к выводу, что разработчикам следует уделить больше внимания набору данных для обучения, а не проектированию самой нейросети, или перейти на другую модель распознавания: https://tprg.ru/vIEs