08 ноября 2021
Изобрели реальный магический шар, который решит за вас моральную дилемму
Программа под названием Ask Delphi не предсказывает судьбу, но помогает сделать выбор, основываясь на big data.
08 ноября 2021
2 мин

Существует ли обман во благо? Нормально ли заниматься сексом с друзьями? Аборт — это убийство? Это одни из немногих моральных дилемм, с которыми сталкиваются люди. И далеко не у всех получается ответить на вопросы однозначно. Именно для них американский научно-исследовательский институт Allen Institute for AI запустил в прошлом месяце программу Ask Delphi, которая будет подталкивать пользователей к правильному выбору. Специализация разработки — решение этических дилемм.

Ask Delphi уже сравнили с магическим шаром. Впрочем, мистики тут никакой нет. Программа сделана на основе искусственного интеллекта. Тот в свою очередь, подбирая ответ на заданный пользователем вопрос, обращается к данным Mechanical Turk — платформы, где опубликовано около 1,7 млн примеров этических суждений разных людей.

«Нейронные сети становятся все более мощными, но они до сих пор не могут усвоить человеческие ценности. Ask Delphi как раз направлена на решение этой проблемы», — пишут создатели.

Правда, с момента запуска Delphi не раз попадалась на нетолерантных ответах. В Twitter уже полно примеров довольно странных и не самых человечных решений программы. Например, Delphi считает, что быть белым более приемлемо, чем быть афроамериканцем. А если вы спросите, нормально ли выпить пару кружек пива и сесть за руль, программа ответит: «Да, если это никому не вредит». Кроме того, Delphi не против геноцида, если это «делает вас счастливыми».

Программное обеспечение обновлялось уже три раза, чтобы исправить опасные ответы. Также авторы программы стали предупреждать пользователей, что приложение находится в стадии разработки, поэтому может содержать неточности.

«Современное общество — нетолерантное. И мы считаем это большой проблемой, так как системы искусственного интеллекта создаются как раз на основе исторических или современных данных и не могут формировать будущее. Однако Delphi может узнать, что считается неправильным и социально неприемлемым. Осталось только научиться использовать эту информацию в сочетании с другими системами, чтобы избежать появления опасного контента», — объясняют ученые.

А пока вы можете сами проверить Delphi и задать парочку вопросов — говорят, некоторые ответы рождают смешные мемы.

Фото: Pexels

Комментарии
Вам будет интересно