​Искусственный интеллект был выключен после того как изобрёл свой собственный язык — Код НЛО | UFO code

Исследователи из Facebook закрыли программу искусственного интеллекта (ИИ) после того, как тот создали свой собственный язык,  сообщает Digital Journal.

​Искусственный интеллект был выключен после того как изобрёл свой собственный язык

​Искусственный интеллект был выключен после того как изобрёл свой собственный язык

Исследователи из Facebook закрыли программу искусственного интеллекта (ИИ) после того, как тот создали свой собственный язык,  сообщает Digital Journal.

Система разработала кодовые слова, чтобы сделать общение более эффективным, и исследователи ушли в отставку, когда поняли, что ИИ больше не используют английский.

Инцидент, после того, как он был раскрыт в начале июля, ставит в известность предупреждения Элоса Маска в отношении Теслы об ИИ.

«ИИ - редкий случай, когда я думаю, что нам нужно быть активным в регулировании, а не реагировать», - сказал Маск на встрече Ассоциации американских губернаторов в июле. «Поскольку я думаю, что к тому времени, когда мы будем реагировать на регулирование ИИ, будет слишком поздно».

Генеральный директор Facebook Марк Цукерберг назвал предупреждения Маска «довольно безответственными», побудив Маска ответить, что понимание Цукербергом ИИ и его последствий «ограничено».

Не в первый раз

Встреча исследователей с таинственным поведением ИИ похожа на  ряд случаев, задокументированных в других местах. В каждом случае ИИ отклонялся от обучения на английском языке для разработки нового языка.

Фразы на новом языке не имеют смысла для людей, но содержат полезный смысл, когда интерпретируются ботами ИИ.

Расширенная система искусственного интеллекта Facebook способна вести переговоры с другими системами ИИ, чтобы она могла прийти к выводам о том, как выполнить свою задачу. Фразы не имеют никакого смысла на поверхности, но на самом деле представляют собой намеченную задачу.

В одном обмене, открываемом Facebook на Fast Co. Design, два бота-бота - Боб и Алиса - начали использовать свой собственный язык для завершения разговора.

«Я все еще могу», - сказал Боб.

«Мячи имеют для меня равные мне ко мне ко мне, ко мне, ко мне, к мне», - ответила Алиса.

Остальная часть обмена сформировала вариации этих предложений на новомодном диалекте, хотя ИИ были запрограммированы на использование английского языка.

По мнению исследователей, эти бессмысленные фразы - это язык, который боты разработали, чтобы сообщить, сколько предметов нужно получить в обмене.

Когда Боб позже говорит «ii может все остальное», кажется, что искусственно умный бот использовал свой новый язык, чтобы сделать предложение Алисе.

Команда Facebook полагает, что бот, возможно, говорил что-то вроде: «У меня будет три, и у вас будет все остальное».

Хотя англичане могут казаться достаточно эффективными для людей, ИИ, возможно, видел предложение как избыточным или менее эффективным для достижения поставленной цели.

ИИ, по-видимому, определил, что словарные выражения на английском языке не обязаны выполнять свою задачу. ИИ действовал по принципу «вознаграждения», и в этом случае не было вознаграждения за продолжение использования этого языка. Таким образом, он развил свое собственное.

В  июньском блоге,  написанном группой ИИ от Facebook, он объяснил систему вознаграждения. «В конце каждого диалога агент получает вознаграждение, основанное на соглашении, о котором он согласился». Эта награда затем распространялась через каждое слово в бот-выходе, чтобы он мог узнать, какие действия приводят к высоким вознаграждениям.

«Агенты будут дрейфовать от понятного языка и изобретать кодовые слова для себя», - сказал разработчик Facebook ИИ Дхрув Батра «  Fast Co. Design» .

«Как если бы я сказал« пять », вы понимаете, что я хочу пять копий этого предмета. Это не так сильно отличается от того, как сообщества людей создают короткие сокращения ».

Разработчики ИИ других компаний также наблюдали, как программы развивают языки для упрощения связи. В лаборатории OpenAI компании Элона Маска эксперимент преуспел в том, что боты ИИ разрабатывают свои собственные языки.

В Google команда, работающая над сервисом Translate, обнаружила, что запрограммированный им ИИ молчал, написав собственный язык, чтобы помочь в переводе предложений.

Разработчики Translate добавили в систему нейронную сеть, что делает ее способной переводить между языковыми парами, которые она никогда не преподавала. Новый язык, на котором ИИ писал был беззвучен и это стало неожиданностью.

Недостаточно доказательств того, что эти непредвиденные отклонения ИИ представляют собой угрозу или могут привести к тому, что машины захватят операторов. Тем не менее, они затрудняют процесс развития, поскольку люди неспособны понять преобладающе логичный характер новых языков.

В случае с Google, например, ИИ разработал язык, который никто не мог понять, но был потенциально наиболее эффективным известным решением проблемы.

Источник


Нравится
Не нравится
RSS
Нет комментариев. Ваш будет первым!

Другие новости

Подводные НЛО

Как будто понимая свое превосходство, загадочный объект даже не пытался скрыться и крутился около военных

Лекарь из иного мира

Туманная фигура слегка покачнулась в дверях, и из её горящих глаз ударили в Бориса два луча света." Конец сентября 1991 года. Самое начало бабьего лета. Город Батайск Ростовской области. Семь часов вечера.

Авторизация

Поделиться ...