Нейросеть научили распознавать оскорбительное общение

Ученые из Корнеллского университета в штате Нью-Йорк, США, создали нейросеть (искусственный интеллект), которая способна отличать вежливое общение от грубости и оскорблений.

Эта программа окажет большую помощь модераторам соцсетей, форумов и чатов. Она может пресекать оскорбительное общение, ненависть и вражду, ориентируясь в тоне переписки лишь на 7% хуже человека.

Обучали алгоритм разработчики с помощью базы данных Wikipedia — Talk pages. Здесь редакторы статей общаются на тему достоверности выложенной информации. Из этого общения были выбраны тысячи вежливых диалогов. В результате нейросеть научилась распознавать оскорбления и неуважительные фразы.

Авторы исследования предполагают впоследствии модернизировать и улучшить алгоритм работы своей нейросети с тем, чтобы она превзошла человека в определении нюансов общения в Сети.

Смотрите также