Последнее обновление: 20.09.2017 10:10

Искусственный интеллект научился писать фальшивые обзоры

Ученые из Чикагского университета разработали нейросеть, которая генерирует обзоры ресторанов и отелей. Алгоритм обучали на тысяче реальных отзывов, найденных в интернете.

В результате он научился писать тексты, практически неотличимые от настоящих, сообщает DTI.

"Мы провели исследование с 600 реальными пользователями сайтов отзывов. Люди не только не смогли отличить фальшивые рецензии, но и назвали их настолько же полезными, насколько и человеческие", - заявили разработки нейросети.

Уникальность достигается за счет того, что нейросеть составляет текст из отдельных слов, а не из нарезанных кусков текста. Искусственный интеллект даже дополняет рецензии "историями из жизни".

Пока отличить фальшивку возможно лишь с помощью статистических методов - нейросеть выдает частота появления букв.

Как отмечают аналитики, создание такого робота разрушает бизнес по продаже отзывов и подрывает доверие людей к сайтам с обзорами - например, Yelp или TripAdvisor - а также к онлайн-ритейлерам, таким как Amazon.

Однако этим возможные проблемы не ограничиваются. Один из создателей нейросети Бен И. Чжао заявил: “Я думаю, что опасность для общества гораздо серьезнее. Это развитие искусственного интеллекта может пошатнуть нашу веру в то, что реально, а что нет. Начало - рецензии: верите ли вы в то, что кто-то написал о ресторане или товаре? Однако дальше могут быть сконструированы, например, целые записи в блогах. Дальше вам придется все сильнее задумываться, откуда появилась информация и как ее можно подтвердить. Я хочу, чтобы люди обратили на это внимание как на реальную и близкую угрозу".

blog comments powered by Disqus
<Август 2017
ПнВтСрЧтПтСбВс
31123456
78910111213
14151617181920
21222324252627
28293031123
45678910
Сентябрь 2017
ПнВтСрЧтПтСбВс
28293031123
45678910
11121314151617
18192021222324
2526272829301
2345678
В мире