Новий закон Сандерса-Касара про заборону штучного суперінтелекту – і чому я проти нього
Тут є багато чого, що може сподобатися, але пропозиція явно заходить надто далеко.
Гері Маркус
Ендрю Карран
Берні Сандерс і Грег Касар сьогодні оголосили про прийняття Закону про заборону штучного суперінтелекту. Усі розробки штучного інтелекту в Сполучених Штатах будуть призупинені. Системи, можливості яких відповідають або перевищують людські когнітивні здібності, будуть заборонені. Порушники можуть отримати 20 років позбавлення волі.
У своєму твіті Сандерс зосереджується на одній з положень законопроекту, яку можна захистити:
Сенатор Берні Сандерс
Лідери індустрії штучного інтелекту визнають, що вони створюють небезпечну технологію, яку не можуть контролювати. Нам потрібна негайна глобальна ПАУЗА у розробці передового штучного інтелекту, поки не пізно. Саме тому я вношу законодавство саме для цього.
Я не проти цього твіту і бачу аргументи (як за, так і проти) для паузи.
Але сама пропозиція заходить надто далеко. Як я щойно писав на X,
Можливо, нам знадобиться тимчасова пауза, можливо, навіть на кілька років, доки в нас не з'являться набагато кращі уявлення про регулювання та узгодження.
І нам, безумовно, потрібне агентство зі штучного інтелекту — як я сам казав Сенату США у 2023 році, — але постійна, одностороння заборона на всі дослідження надлюдського штучного інтелекту є занадто широкою, гарантією відставання США, і це неправильний підхід.
Це також наївно щодо складнощів бенчмаркінгу, і, на жаль, залишило б простір для авторитарних лідерів грати в ігри з правилами.
Крім того, вона занадто зосереджена на гіпотетичних майбутніх ризиках (таких як штучний інтелект, який «планує... позбавити людство влади»), виключаючи поточні ризики, як пише доктор Анджела Расмуссен :
Доктор Анжела Расмуссен
У певний момент нам слід заборонити речі, засновані на гіпотетичних ризиках, та змістовно розглянути реальні ризики, з якими ми стикаємося в реальності.
Гері Маркус
Можливо, людей здивує, що я виступаю проти цієї пропозиції Сандерса та Касара. Але я виступаю проти. Нам, можливо, потрібна пауза, і нам, безумовно, потрібне агентство зі штучного інтелекту — як я сам казав Сенату США у 2023 році — але постійна одностороння заборона на всі дослідження надлюдського штучного інтелекту є занадто широкою та
Ми всі повинні прагнути гарного майбутнього зі штучним інтелектом, а не відсталого. Але це не шлях.
Я вітаю зусилля Сандерса-Касара зафіксувати щось на папері для обговорення, але давайте знайдемо кращий підхід.
(У своєму постскриптумі нижче я даю одну підказку; моя книга «Приборкання Кремнієвої долини» дає набагато більше. У наступній статті з Келом Ньюпортом буде ще більше.)
P.S. Щодо точки зупинки — окремо від регулювання інших аспектів більш безпосередніх ризиків ШІ — мені подобається формулювання (виділено жирним шрифтом) від Ентоні Агірре . Можливо, Сандерс і Касар могли б запозичити його в переглянутій пропозиції:
«Розробка вузькоспеціалізованих інструментів штучного інтелекту, а також тих, які, як можна обґрунтовано очікувати, будуть значно нижчими за поточний рівень розробки програмного забезпечення, кібербезпеки та автономних можливостей, може продовжуватися. Системи з більшим комбінованим інтелектом, уніфікацією та автономністю можуть бути розроблені лише тоді, коли їхні розробники зможуть з високою впевненістю продемонструвати компетентному незалежному органу, що існує достатня узгодженість, контроль та нагляд».
Замість того, щоб закликати до постійної заборони, яку можна скасувати лише актом Конгресу, таке формулювання встановлює важливу високу планку – і, отже, стимул – для компаній. Це гарна модель для кращого, менш нав'язливого підходу, який все ще залишає простір для майбутніх відкриттів, водночас заохочуючи критичні дослідження.