Как сделать роботов, которым мы сможем доверять — Код НЛО | UFO code

Самостоятельные автомобили, личные помощники, чистящие роботы, умные дома - вот лишь некоторые примеры автономных систем. Поскольку многие такие системы уже используются или находятся в процессе разработки, ключевым вопросом является доверие.

Как сделать роботов, которым мы сможем доверять

Самостоятельные автомобили, личные помощники, чистящие роботы, умные дома - вот лишь некоторые примеры автономных систем.

Поскольку многие такие системы уже используются или находятся в процессе разработки, ключевым вопросом является доверие. Мой главный аргумент в том, что надежных, хорошо работающих систем недостаточно. Чтобы обеспечить доверие, для разработки автономных систем также необходимо учитывать другие требования, в том числе способность объяснять решения и иметь альтернативные варианты при возникновении ошибок.

Когда делать хорошую работу недостаточно

За последние несколько лет произошли значительные успехи в развертывании автономных систем. Это, по сути, программные системы, которые принимают решения и действуют на них с реальными последствиями. Примеры включают физические системы, такие как самозанятые автомобили и роботы, и программные приложения, такие как персональные помощники.

Однако недостаточно инженеров, которые хорошо функционируют. Нам также необходимо рассмотреть, какие дополнительные функции людям нужно доверять таким системам.

Например, рассмотрите личный помощник. Предположим, что персональный помощник хорошо работает. Доверяете ли вы этому, даже если он не сможет объяснить свои решения?

Чтобы сделать систему надежной, нам необходимо определить ключевые предпосылки для доверия. Затем нам необходимо убедиться, что система предназначена для включения этих функций.


Надежный робот, возможно, должен будет объяснить свои решения.

Что заставляет нас доверять?

В идеале мы ответим на этот вопрос, используя эксперименты. Мы могли бы спросить людей, готовы ли они доверять автономной системе. И мы могли бы изучить, как это зависит от различных факторов. Например, дает гарантии важности поведения системы? Является ли предоставление разъяснений важным?

Предположим, что система принимает решения, которые имеют решающее значение для правильного выбора, например, самоходные автомобили, избегающие несчастных случаев. Насколько мы более осторожны в том, чтобы доверять системе, которая принимает такие критические решения?

Эти эксперименты еще не выполнены. Таким образом, предпосылки, обсуждаемые ниже, являются фактически образованными догадками.

Пожалуйста, объясни

Во-первых, система должна быть способна объяснить, почему она приняла определенные решения. Объяснения особенно важны, если поведение системы может быть неочевидным, но все же правильным.

Например, представьте себе программное обеспечение, которое координирует операции по оказанию помощи при бедствиях, назначая задачи и места спасателям. Такая система может предлагать распределения задач, которые кажутся нечетными для отдельного спасателя, но являются правильными с точки зрения общей операции спасения. Без объяснений такое распределение задач вряд ли заслуживает доверия.

Предоставление объяснений позволяет людям понять системы и может поддерживать доверие к непредсказуемым системам и неожиданным решениям. Эти объяснения должны быть понятными и доступными, возможно, с использованием естественного языка. Они могут быть интерактивными, принимая форму беседы.

Если все пойдет не так

Второй предпосылкой для доверия является обращение. Это означает, что вы можете получить компенсацию, если на вас оказывает неблагоприятное воздействие автономная система. Это необходимое условие, поскольку оно позволяет нам доверять системе, которая не на 100% идеальна. И на практике ни одна система не идеальна.

Механизм регресса может быть законным или формой страхования, возможно, смоделированным по подходу Новой Зеландии к компенсации за несчастные случаи.

Однако, полагаясь на юридический механизм, есть проблемы. По крайней мере, некоторые автономные системы будут производиться крупными транснациональными компаниями. Правовой механизм может превратиться в ситуацию Дэвида и Голиафа, поскольку в нее вовлечены отдельные лица или организации с ограниченными ресурсами, которые привлекают многонациональные компании к суду.

В более широком смысле доверие также требует социальных структур для регулирования и управления. Например, какие (меж) национальные законы должны быть приняты для регулирования развития и развертывания автономной системы? Какая сертификация должна потребоваться до того, как автоколонна будет разрешена на дороге?

Утверждалось, что сертификация и доверие требуют проверки. В частности, это означает использование математических методов для обеспечения гарантий принятия решений автономными системами. Например, гарантируя, что автомобиль никогда не ускорится, когда он узнает, что другой автомобиль находится прямо впереди.

Включение человеческих ценностей

Для некоторых доменов процесс принятия решений системой должен учитывать соответствующие человеческие ценности. Они могут включать конфиденциальность, автономию и безопасность человека.

Представьте себе систему, которая заботится о пожилом возрасте с деменцией. Пожилой человек хочет прогуляться. Однако по соображениям безопасности им не разрешается покидать дом в одиночку. Должна ли система позволить им уйти? Предотвратить их уход? Сообщите кому-нибудь?

Решение о том, как наилучшим образом реагировать, может потребовать рассмотрения соответствующих основных человеческих ценностей. Возможно, в этом сценарии безопасность отменяет автономию, но возможно информирование человека или опекуна. Хотя выбор того, кто может сообщить, может быть ограничен конфиденциальностью.

Создание автономного умного

Эти предпосылки - объяснения, регресс и ценности людей - необходимы для создания надежных автономных систем. Они должны рассматриваться как часть процесса проектирования. Это позволило бы создать соответствующие функциональные возможности в системе.

Решение этих предпосылок требует междисциплинарного сотрудничества. Например, разработка соответствующих механизмов объяснения требует не только компьютерной науки, но и человеческой психологии. Аналогичным образом, разработка программного обеспечения, которое может учитывать человеческие ценности, требует философии и социологии. А вопросы управления и сертификации связаны с законом и этикой.

Наконец, есть более широкие вопросы. Во-первых, какие решения мы готовы передать программному обеспечению? Во-вторых, как общество должно готовить и реагировать на множество последствий, которые приступят к развертыванию автоматизированных систем.

Например, учитывая влияние на занятость, должна ли общество реагировать, вводя какую-то форму Универсального базового дохода?

Нравится
Не нравится
RSS
Нет комментариев. Ваш будет первым!

Другие новости

Подводные НЛО

Как будто понимая свое превосходство, загадочный объект даже не пытался скрыться и крутился около военных

Лекарь из иного мира

Туманная фигура слегка покачнулась в дверях, и из её горящих глаз ударили в Бориса два луча света." Конец сентября 1991 года. Самое начало бабьего лета. Город Батайск Ростовской области. Семь часов вечера.

Авторизация

Поделиться ...