В 1942 году легендарный писатель-фантаст Айзек Азимов представил свои Три закона робототехники в рассказе "Хоровод". Позже эти законы получили широкую известность благодаря его знаменитому сборнику рассказов "Я, робот".
Первый закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон: Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону.
Третий закон: Робот должен заботиться о своей безопасности, если это не противоречит Первому или Второму законам.
Хотя эти законы были созданы в рамках художественной литературы, они на протяжении десятилетий формировали дискуссии об этике роботов. По мере того как системы искусственного интеллекта — которые можно рассматривать как виртуальных роботов — становятся все более сложными и распространенными, некоторые технологи находят концепцию Азимова полезной для рассмотрения потенциальных мер безопасности, необходимых для ИИ, взаимодействующего с людьми.
Однако существующих трех законов недостаточно. Сегодня мы вступаем в эпоху беспрецедентного сотрудничества человека и ИИ, которую Азимов едва ли мог предвидеть. Стремительное развитие возможностей генеративного ИИ, особенно в области создания текста и изображений, создало проблемы, выходящие за рамки первоначальных опасений Азимова о физическом вреде и послушании.
Дипфейки, дезинформация и мошенничество
Особую озабоченность вызывает распространение обмана с помощью ИИ. Согласно отчету ФБР о киберпреступности за 2024 год, потери от киберпреступлений, связанных с цифровыми манипуляциями и социальной инженерией, превысили 10,3 миллиарда долларов США. Агентство Европейского Союза по кибербезопасности в своем обзоре угроз за 2023 год особо выделило дипфейки — синтетические медиа, которые выглядят подлинными — как новую угрозу цифровой идентичности и доверию.
Дезинформация в социальных сетях распространяется как лесной пожар. Исследования показывают, что распространение инструментов генеративного ИИ сделало ее обнаружение все более сложным. Более того, статьи, созданные ИИ, столь же убедительны или даже более убедительны, чем традиционная пропаганда, а использование ИИ для создания убедительного контента требует очень мало усилий.
Дипфейки распространяются по всему обществу. Ботнеты могут использовать сгенерированные ИИ текст, речь и видео для создания ложного восприятия широкой поддержки любого политического вопроса. Боты теперь способны совершать и принимать телефонные звонки, имитируя людей. Мошеннические звонки с использованием ИИ, имитирующие знакомые голоса, становятся все более распространенными.
Еще более тревожно то, что дети и подростки формируют эмоциональную привязанность к ИИ-агентам и иногда не могут отличить взаимодействие с реальными друзьями от общения с ботами в интернете. Уже были зафиксированы случаи самоубийств, связанных с взаимодействием с чат-ботами на базе ИИ.
Предложение четвертого закона
В связи с этими вызовами предлагается дополнить законы Азимова:
Четвертый закон: Робот или ИИ не должен обманывать человека, выдавая себя за человека.
Путь к надежному ИИ
Для реализации этого четвертого закона потребуется:
- Обязательное раскрытие ИИ в прямых взаимодействиях
- Четкая маркировка контента, созданного ИИ
- Технические стандарты для идентификации ИИ
- Правовые рамки для обеспечения исполнения
- Образовательные инициативы для повышения грамотности в области ИИ
Конечно, все это легче сказать, чем сделать. Уже ведутся масштабные исследования по поиску надежных способов добавления водяных знаков или обнаружения текста, аудио, изображений и видео, созданных ИИ.
Будущее сотрудничества человека и ИИ зависит от поддержания четких различий между человеческими и искусственными агентами. Как отмечается в структуре IEEE 2022 года "Этически согласованное проектирование", прозрачность в системах ИИ является фундаментальной для построения общественного доверия и обеспечения ответственного развития искусственного интеллекта.
От себя можем заметить, что если корректно подходить к определениям, то четвертый закон не нужен. Ведь ложь уже наносит вред человеку. Любая ложь - это вред. Если робот или искусственный интеллект врет, значит, вредит человеку, а это недопустимо.