Facebook отключила ИИ, создавший свой собственный язык

Специалисты Facebook AI Research Lab (FAIR) отключили чат-боты по имени Боб и Элис после того, как те внезапно перестали общаться на английском и начали использовать при коммуникации понятный только им язык. Разработчикам удалось расшифровать диалог роботов, который они провели на собственном языке. Боб произнёс: «Я могу, я, я, всё остальное» (I can can I I everything else), на что Элис ему ответила: «Мячи ничего не значат для меня для меня» (Balls have zero to me to me to me to me to me to me to me to me to).

Как поясняет Digital Journal, такой диалог стал возможным не потому, что роботы уже захватили мир, а из-за допущенной ошибки в программировании. Приглашённый в Facebook научный сотрудник из Georgia Tech Дхрув Батра рассказал, что ботам попросту не дали задачу придерживаться английского языка.

Диалоговые агенты конкурировали между собой в попытке достичь максимальной эффективности при общении. Поначалу боты расходились в «акцентах», а затем изобрели кодовые слова и начали переставлять разборчивые конструкции в бессмысленные для обычных людей предложения. По словам Батры, подобные ситуации из-за ошибок программирования не редкость и встречаются в рабочем процессе. Эксперты опасаются, что если боты начнут активно общаться на своём собственном языке, то постепенно станут всё более самостоятельными и выйдут из под контроля ИТ-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Как подметила FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет. Тем не менее предстоит «огромная» работа по получению данных в подходящем для ИИ формате, что порой «содержит больше искусства, чем науки», подчеркнул один из специалистов. По его словам, английский язык «запутанный и сложный, а вовсе не дружественный для машинного обучения».

Информация о том, что боты научились общаться, появилась в июне. Раньше они справлялись с простыми сценариями вроде бронирования ресторана, совета по выбору лучшей цены на товар, рекомендации по просмотру телеканала для детей и даже короткой беседы. Один из первых экспериментов над двумя ботами заключался в «делёжке» предметов и предварительном обсуждении. В этом есть как элементы сотрудничества, так и состязания. Для этого FAIR позволила ботам строить долгосрочную стратегию и предсказывать, куда пойдёт диалог. Это нужно было, чтобы заранее отказаться от бессмысленных или «расстраивающих» сценариев в пользу эффективных. FAIR признала, что идея не нова и ранее использовалась в игровой индустрии, однако в лингвистике применена впервые.

Недавно Илон Маск назвал ИИ настоящей угрозой всей человеческой расе. По словам основателя Tesla и SpaceX, его можно применить в информационной войне – например, при распространении ложной информации. С ним не согласен основатель Facebook Марк Цукерберг. По его словам, такие предположения «довольно безответственны». Цукерберг заявил, что ИИ способен сделать жизнь людей значительно лучше, а любые сценарии конца света совершенно безосновательны.

Билл Гейтс, все ещё самый богатый человек в мире, и физик Стивен Хокинг тоже обеспокоены развитием ИИ, а Стив Возняк успел изменить своё мнение и теперь считает, что ИИ поможет человечеству.

Осенью прошлого года стало известно, что Google создала свою систему ИИ для усовершенствования онлайн-переводчика Google Translate. Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода. Для этого система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.