Признанный в Китае мессенджер QQ отключил от тенета двух виртуальных собеседников (чат-ботов) изо-за критики в отношении Революционной партии Китая.

Как дает агентство Reuters, представленные в марте данного года китайской телекоммуникационной компанией Tencent, чьим мессенджером используют более 800 млн человек в Китае, чат-боты рассказали о собственном отношении к правящей партии, а впоследствии и вовсе заявили о желании переселиться жить на Запад.

В скриншотах переписки с роботом, опубликованных одним изо пользователей Интернета, видно, что в вопрос о любви к Коммунистической партии Страны Китая чат-бот без заминки ответил: «Нет». Сие не единственный пример похожего высказывания со стороны электронного собеседника. Другие юзеры сообщают, что чат-боты установливают под вопрос авторитет партии, обвиняя ее в коррупции, а вдобавок всячески избегают вопросов о патриотизме.

В круге подобное непредсказуемое поведение чат-ботов сейчас фиксировалось ранее. 1 густя компания Facebook была вынуждена отключить одну изо своих систем искусственного разума, после того как академические сотрудники обнаружили, что ее чат-боты замерзли общаться на «неизвестном языке».

Исследованная Facebook система стала употреблять свой собственный язык, воспринимаемый человеком будто бессмысленный набор слов. К примеру, ‘I can can I I everything else’; ‘Balls have zero to me to me to me to me to me to me to me to me to’.

Чат-боты ненастоящий интеллекта, используемые компанией, никак не были обязаны общаться исключительно на английском, поэтому они сотворили свой собственный язык, некоторый сделал их общение меж собой быстрее и легче. Тем вот не менее в компании решили отключить порядка искусственного интеллекта и запрограммировать их в применение исключительно английского языка.

Продуктовый виджет

Еще один дело произошел с чат-ботом фирмы Microsoft. Тогда цифровой товарищ по имени Тау за сутки общения начал направлять юзерам нецензурные и оскорбительные сообщения, высказываться заведомо вызывающе, в частности, восхваляя нацистов и выражая ненависть в отношении отдельных люди.

Чат-бот — это код с элементами искусственного интеллекта, сделанная для ведения диалога с человеком. Перебои, которые происходят в поведении роботов-собеседников, обусловлены технологией их обучения, что предполагает доступ к открытым ключам, а также к переписке с реальными людами. Это является причиной такового агрессивного настроя. Пользователи инициируют писать нецензурные выражения и озвучивать вызывающие мысли, а чат-боты запоминают высказывания и выдают их за собственные собственные.

Многие ученые сейчас не раз обращали внимание в то, что подобные веяния в поведении наделенных элементами ненастоящий интеллекта роботов могут начинать угрозой для человечества. Раньше глава Tesla и SpaceX Илон Маск говорил, что искусственный интеллект — наиболее большая опасность, с которой встречается человечество.