​Искусственный интеллект был выключен после того как изобрёл свой собственный язык — Код НЛО | UFO code

Исследователи из Facebook закрыли программу искусственного интеллекта (ИИ) после того, как тот создали свой собственный язык,  сообщает Digital Journal.

​Искусственный интеллект был выключен после того как изобрёл свой собственный язык

​Искусственный интеллект был выключен после того как изобрёл свой собственный язык

Исследователи из Facebook закрыли программу искусственного интеллекта (ИИ) после того, как тот создали свой собственный язык,  сообщает Digital Journal.

Система разработала кодовые слова, чтобы сделать общение более эффективным, и исследователи ушли в отставку, когда поняли, что ИИ больше не используют английский.

Инцидент, после того, как он был раскрыт в начале июля, ставит в известность предупреждения Элоса Маска в отношении Теслы об ИИ.

«ИИ - редкий случай, когда я думаю, что нам нужно быть активным в регулировании, а не реагировать», - сказал Маск на встрече Ассоциации американских губернаторов в июле. «Поскольку я думаю, что к тому времени, когда мы будем реагировать на регулирование ИИ, будет слишком поздно».

Генеральный директор Facebook Марк Цукерберг назвал предупреждения Маска «довольно безответственными», побудив Маска ответить, что понимание Цукербергом ИИ и его последствий «ограничено».

Не в первый раз

Встреча исследователей с таинственным поведением ИИ похожа на  ряд случаев, задокументированных в других местах. В каждом случае ИИ отклонялся от обучения на английском языке для разработки нового языка.

Фразы на новом языке не имеют смысла для людей, но содержат полезный смысл, когда интерпретируются ботами ИИ.

Расширенная система искусственного интеллекта Facebook способна вести переговоры с другими системами ИИ, чтобы она могла прийти к выводам о том, как выполнить свою задачу. Фразы не имеют никакого смысла на поверхности, но на самом деле представляют собой намеченную задачу.

В одном обмене, открываемом Facebook на Fast Co. Design, два бота-бота - Боб и Алиса - начали использовать свой собственный язык для завершения разговора.

«Я все еще могу», - сказал Боб.

«Мячи имеют для меня равные мне ко мне ко мне, ко мне, ко мне, к мне», - ответила Алиса.

Остальная часть обмена сформировала вариации этих предложений на новомодном диалекте, хотя ИИ были запрограммированы на использование английского языка.

По мнению исследователей, эти бессмысленные фразы - это язык, который боты разработали, чтобы сообщить, сколько предметов нужно получить в обмене.

Когда Боб позже говорит «ii может все остальное», кажется, что искусственно умный бот использовал свой новый язык, чтобы сделать предложение Алисе.

Команда Facebook полагает, что бот, возможно, говорил что-то вроде: «У меня будет три, и у вас будет все остальное».

Хотя англичане могут казаться достаточно эффективными для людей, ИИ, возможно, видел предложение как избыточным или менее эффективным для достижения поставленной цели.

ИИ, по-видимому, определил, что словарные выражения на английском языке не обязаны выполнять свою задачу. ИИ действовал по принципу «вознаграждения», и в этом случае не было вознаграждения за продолжение использования этого языка. Таким образом, он развил свое собственное.

В  июньском блоге,  написанном группой ИИ от Facebook, он объяснил систему вознаграждения. «В конце каждого диалога агент получает вознаграждение, основанное на соглашении, о котором он согласился». Эта награда затем распространялась через каждое слово в бот-выходе, чтобы он мог узнать, какие действия приводят к высоким вознаграждениям.

«Агенты будут дрейфовать от понятного языка и изобретать кодовые слова для себя», - сказал разработчик Facebook ИИ Дхрув Батра «  Fast Co. Design» .

«Как если бы я сказал« пять », вы понимаете, что я хочу пять копий этого предмета. Это не так сильно отличается от того, как сообщества людей создают короткие сокращения ».

Разработчики ИИ других компаний также наблюдали, как программы развивают языки для упрощения связи. В лаборатории OpenAI компании Элона Маска эксперимент преуспел в том, что боты ИИ разрабатывают свои собственные языки.

В Google команда, работающая над сервисом Translate, обнаружила, что запрограммированный им ИИ молчал, написав собственный язык, чтобы помочь в переводе предложений.

Разработчики Translate добавили в систему нейронную сеть, что делает ее способной переводить между языковыми парами, которые она никогда не преподавала. Новый язык, на котором ИИ писал был беззвучен и это стало неожиданностью.

Недостаточно доказательств того, что эти непредвиденные отклонения ИИ представляют собой угрозу или могут привести к тому, что машины захватят операторов. Тем не менее, они затрудняют процесс развития, поскольку люди неспособны понять преобладающе логичный характер новых языков.

В случае с Google, например, ИИ разработал язык, который никто не мог понять, но был потенциально наиболее эффективным известным решением проблемы.

Источник


Нравится
Не нравится
RSS
Нет комментариев. Ваш будет первым!

Другие новости

Удивительные знания в Ведах

В древних индийских трактатах содержится множество научных знаний, до которых современная наука дошла совсем недавно или еще даже не подбиралась к ним. Предлагаем вам несколько фактов об удивительных знаниях ученых, живших тысячи лет назад.

Основные версии происхождения Луны

​В начале этой недели ученые-астрофизики из Института геофизики Парижа опровергли версию происхождения Луны, которая до сих пор считалась наиболее вероятной. Согласно этой гипотезе, примерно 4,5 миллиардов лет назад совсем еще юная Земля

Как космическое излучение воздействует на мозг

Экипажу корабля, бороздящего дальний космос, грозит потеря долговременной памяти — такой вывод сделали ученые из подмосковного Пущино, проанализировав результаты экспериментов на мышах, облученных ускоренным пучком тяжелых ионов.

Авторизация

Для того, чтобы мы могли качественно предоставить Вам услуги, мы используем cookies, которые сохраняются на Вашем компьютере (сведения о местоположении; ip-адрес; тип, язык, версия ОС и браузера; тип устройства и разрешение его экрана; источник, откуда пришел на сайт пользователь; какие страницы открывает и на какие кнопки нажимает пользователь). Нажимая кнопку «СОГЛАСЕН», Вы подтверждаете то, что Вы проинформированы об использовании cookies на нашем сайте. Отключить cookies Вы можете в настройках своего браузера.

Поделиться ...