У 1942 році легендарний письменник-фантаст Айзек Азімов представив свої Три закони робототехніки в оповіданні "Хоровод". Пізніше ці закони набули широкої популярності завдяки його знаменитій збірці оповідань "Я, робот".
Перший закон: Робот не може заподіяти шкоду людині або своєю бездіяльністю дозволити, щоб людині було заподіяно шкоду.
Другий закон: Робот повинен підкорятися командам людини, якщо ці команди не суперечать Першому закону.
Третій закон: Робот повинен дбати про свою безпеку, якщо це не суперечить Першому або Другому законам.
Хоча ці закони були створені в рамках художньої літератури, вони протягом десятиліть формували дискусії про етику роботів. У міру того як системи штучного інтелекту — які можна розглядати як віртуальних роботів — стають все складнішими та поширенішими, деякі технологи знаходять концепцію Азімова корисною для розгляду потенційних заходів безпеки, необхідних для ШІ, що взаємодіє з людьми.
Проте наявних трьох законів недостатньо. Сьогодні ми вступаємо в епоху безпрецедентної співпраці людини та ШІ, яку Азімов навряд чи міг передбачити. Стрімкий розвиток можливостей генеративного ШІ, особливо в галузі створення тексту та зображень, створив проблеми, що виходять за рамки початкових побоювань Азімова про фізичну шкоду та слухняність.
Діпфейки, дезінформація та шахрайство
Особливе занепокоєння викликає поширення обману за допомогою ШІ. Згідно зі звітом ФБР про кіберзлочинність за 2024 рік, втрати від кіберзлочинів, пов'язаних із цифровими маніпуляціями та соціальною інженерією, перевищили 10,3 мільярда доларів США. Агентство Європейського Союзу з кібербезпеки у своєму огляді загроз за 2023 рік особливо виділило діпфейки — синтетичні медіа, які виглядають справжніми — як нову загрозу цифровій ідентичності та довірі.
Дезінформація в соціальних мережах поширюється як лісова пожежа. Дослідження показують, що поширення інструментів генеративного ШІ зробило її виявлення все складнішим. Більше того, статті, створені ШІ, настільки ж переконливі або навіть більш переконливі, ніж традиційна пропаганда, а використання ШІ для створення переконливого контенту потребує дуже мало зусиль.
Діпфейки поширюються по всьому суспільству. Ботнети можуть використовувати згенеровані ШІ текст, мову та відео для створення хибного сприйняття широкої підтримки будь-якого політичного питання. Боти тепер здатні здійснювати та приймати телефонні дзвінки, імітуючи людей. Шахрайські дзвінки з використанням ШІ, що імітують знайомі голоси, стають все більш поширеними.
Ще більш тривожно те, що діти та підлітки формують емоційну прив'язаність до ШІ-агентів і іноді не можуть відрізнити взаємодію з реальними друзями від спілкування з ботами в інтернеті. Вже були зафіксовані випадки самогубств, пов'язаних із взаємодією з чат-ботами на базі ШІ.
Пропозиція четвертого закону
У зв'язку з цими викликами пропонується доповнити закони Азімова:
Четвертий закон: Робот або ШІ не повинен обманювати людину, видаючи себе за людину.
Шлях до надійного ШІ
Для реалізації цього четвертого закону потрібно:
- Обов'язкове розкриття ШІ в прямих взаємодіях
- Чітке маркування контенту, створеного ШІ
- Технічні стандарти для ідентифікації ШІ
- Правові рамки для забезпечення виконання
- Освітні ініціативи для підвищення грамотності в галузі ШІ
Звичайно, все це легше сказати, ніж зробити. Вже ведуться масштабні дослідження з пошуку надійних способів додавання водяних знаків або виявлення тексту, аудіо, зображень та відео, створених ШІ.
Майбутнє співпраці людини та ШІ залежить від підтримання чітких відмінностей між людськими та штучними агентами. Як зазначається в структурі IEEE 2022 року "Етично узгоджене проектування", прозорість у системах ШІ є фундаментальною для побудови суспільної довіри та забезпечення відповідального розвитку штучного інтелекту.
Від себе можемо зауважити, що якщо коректно підходити до визначень, то четвертий закон не потрібен. Адже брехня вже завдає шкоди людині. Будь-яка брехня - це шкода. Якщо робот чи штучний інтелект бреше, значить, шкодить людині, а це неприпустимо.