Възрастовата бариера за изболзване на AI чатботове би могла да ограничи поверителността, свободата на словото и иновациите. По-целенасочените политики могат да предложат по-добър начин за защита на уязвимите потребители, изтъкват авторите на анализ, публикуван в блога на изданието Human Progress…
Комисията по правосъдие на Сената одобри за по-нататъшно разглеждане законопроекта на сенатор Джош Хоули, наречен GUARD Act (Закон за насоки относно проверката на възрастта на потребителите и отговорния диалог). Законопроектът би изисквал всеки американец да потвърждава възрастта си, преди да използва генеративен AI чатбот, и би забранил на всички лица под 18 години изобщо да използват т.нар. чатботове „придружители“.
По време на обсъждането в залата присъстваха родители на деца, които са се самоубили след разговори с AI продукти. Тяхната скръб е невъобразима, а мотивите им са извън всякакво съмнение. Тревожното обаче е, че подобна политика може тихомълком да струва човешки животи, вместо да ги спасява.
Най-силният аргумент зад този законопроект е убеждението, че ограничаването на достъпа на непълнолетните до AI чатботове ще предотврати самоубийства. Според наличните доказателства това твърдение е по-скоро хипотеза, отколкото установен факт — и то хипотеза, която противоречи на данните, натрупвани в продължение на няколко десетилетия относно причините за смъртта на младите хора.
Според данни на американските Центрове за контрол и превенция на заболяванията (CDC) нивото на самоубийствата в САЩ започва да нараства около 2000 г. — още преди да съществуват ChatGPT, смартфоните или социалните мрежи. През 2010-те години ръстът се ускорява, а след 2018 г., противно на популярните представи, тенденцията се стабилизира и дори леко се обръща надолу, въпреки че генеративният изкуствен интелект премина от изследователските лаборатории в джоба на почти всеки тийнейджър в страната.
Ако чатботовете бяха значим фактор за увеличаването на самоубийствата сред подрастващите, двете криви би трябвало да се движат заедно. Това не се наблюдава. Освен това нивата на самоубийства сред младите американци остават най-ниски в сравнение с всички останали възрастови групи.
Макар всяка загуба на млад човешки живот чрез самоубийство да е трагедия, каквото и да убива младите американци, то предхожда технологията, която законодателите сега предлагат да им бъде забранена.
Това, което инициаторите на GUARD Act не разглеждат сериозно, е другата страна на уравнението. Съществуват случаи, в които AI може да помага на хора от всички възрасти по отношение на психичното здраве. Около половината американци с диагностицируемо психично разстройство никога не търсят професионална помощ; стигмата, разходите и страхът от принудителна намеса ги карат да мълчат.
За част от тях — особено за подрастващи в семейства, където терапията е недостъпна финансово, липсва или не може безопасно да бъде обсъждана — чатботът може да бъде най-надеждната форма на емоционална подкрепа.
В проучване сред над 1000 юноши и млади хора 13% са използвали чатбот за подкрепа на психичното си здраве, а над 90% от тях са заявили, че това им е било полезно. В друго изследване сред над 1000 потребители на Replika — популярен AI чатбот — 30 души спонтанно съобщават, че техният изкуствен спътник ги е спасил от самоубийство.
Не знаем колко човешки живота генеративният AI е спасил чрез подобряване на достъпа до грижи за психичното здраве. Но за всеки случай на психоза или самоубийство, свързан с AI, може да съществуват десетки незабелязани положителни резултати. Политика, която предполага единствено най-лошите възможни последствия, предотвратява и най-добрите.
Последиците от това предложение биха могли също така да обезкуражат инвестициите или да ограничат свободата на изразяване, необходима за създаването на по-добри решения. Изправени пред глоби от 100 000 долара за всяко нарушение, доставчиците няма да инвестират в по-добри модели за откриване на суицидни рискове. Вместо това вероятно ще премахват всякакво съдържание, което дори косвено засяга подобни теми, ограничавайки достъпа до информация за кризисни линии и помощни ресурси за хората в затруднение.
Това би ограничило и достъпа до информация за хора, които се опитват да разберат тежко травматично събитие или да помогнат на приятел, изпитващ затруднения. Клиничните специалисти от десетилетия знаят, че внезапното насочване към лечение без предварително изграждане на доверие може да засили чувството на срам и да прекрати откровения разговор. Най-добрите научни данни показват, че успешните стратегии за предотвратяване на самоубийства поставят изграждането на доверие преди предоставянето на ресурси именно защото този ред има значение. Регулаторен режим, който наказва нюансите, ще доведе до още по-малко нюанси.
Освен че е лоша политика, подобен закон почти сигурно би бил противоконституционен. Основната идея не се основава на достатъчно убедителен държавен интерес и не е формулирана достатъчно прецизно. Тя засяга свободата на словото и анонимността на всички потребители на онлайн инструменти, а не само на непълнолетните, въз основа на аргументи, които далеч не са общоприети.
Режимът за спазване на закона е толкова широк, че би обхванал помощници за домашни работи, чатботове за обслужване на клиенти и търсачки, които предоставят разговорни отговори. Това на практика въвежда принципа „документите, моля“ за все по-голяма част от интернет.
За да бъде приложен законът, всеки възрастен американец би трябвало да качи държавен документ за самоличност или да се подложи на биометрично сканиране, за да зададе въпрос, да проведе разговор с обслужване на клиенти или да упражнява чужд език.
Съществуват по-умерени и по-добри политически решения, ако законодателите действително желаят да подкрепят родители и тийнейджъри, които могат да срещнат трудности при използването на AI чатботове или генеративен AI. Сред тях са обучението и осигуряването на необходимите ресурси за правоохранителните органи, за да преследват злоумишлени лица, които използват технологиите за създаване или изискване на сексуално съдържание от непълнолетни.
Инвестициите в AI грамотност — каквато наскоро беше въведена в държавните училища на Айдахо — дават на младите хора уменията да използват тези инструменти по начина, по който неизбежно ще трябва да ги използват като възрастни, включително знания как да реагират, ако срещнат проблеми.
Вместо да бъдат проблем, правни защити по модела на Section 230, съчетани със стимули за доставчици, които инвестират в по-добро разпознаване на проблеми с психичното здраве, биха насърчили внимателното развитие на технологиите — точно онова, което настоящият законопроект наказва.
Нито една от тези мерки няма да осигури емоционалното удовлетворение, което носи една забрана, но всички те е по-вероятно да спасят човешки животи. И най-важното — те дават възможност на родителите и другите доверени възрастни, а не на политиците, да определят кое е разумно по отношение на използването на AI от деца и тийнейджъри.
Инициаторите на законопроекта не действат недобросъвестно. Случаите, които ги мотивират, са реални, а желанието да се защитят уязвимите е една от най-почтените черти на политическите ни инстинкти.
Но този модел е познат от предишни морални паники около комиксите, рок музиката и видеоигрите. Всяка от тях е била искрено преживявана. Всяка е била основана на слаби социално-научни доказателства, усилени от силни обществени емоции. И всяка е довела до политика, която впоследствие не е издържала изпитанието на времето.
GUARD Act ни предлага да заменим измерима загуба на свобода и лична неприкосновеност срещу неизмерим и вероятно дори отрицателен ефект върху безопасността. Силите, които тласкат хората към самоубийство — изолация, семейни конфликти, нелекувани заболявания, загуба на смисъл — действат в мащаби и чрез механизми, които никоя технологична политика не може да разреши.
Да се преструваме, че е обратното означава да предложим на опечалените семейства утеха, която политиката не може честно да осигури, като същевременно тихомълком затваряме врата, през която други млади хора — по-малко видими за нас — все още вървят към помощта.
