Ако най-съвременният изкуствен интелект (ИИ) наистина е достатъчно мощен, за да унищожи човечеството, той може вече да е станал твърде силен, за да бъде забавен. Тъй като технологията вече е част от стратегическа надпревара във въоръжаването, свързана с националната сигурност, предупрежденията за рисковете от нея може единствено да ускорят стремежа към хегемония – и същевременно да доведат до много по-силен държавен контрол, изтъква редакционен коментар на Ройтерс.
Възможно е именно засиленият държавен контрол – било то под формата на собственост, регулации или ограничения – отчасти да тревожи финансовите пазари, които вече са калкулирали в цените си очакването, че грандиозният инвестиционен бум ще продължи поне до края на десетилетието.
Тези дни кулминация достигнаха поредица от апокалиптични предупреждения относно заплахата, която ИИ представлява за човешкия живот. Те бяха придружени от сигнали, че най-усъвършенстваните модели биха могли да се използват за създаване на биологични оръжия, извършване на кибератаки срещу финансовата система и дори за поемане на контрол над целия интернет.
Предупрежденията започнаха миналата седмица, когато служител на лабораторията за ИИ Anthropic, подаващ оставка, предупреди, че новата технология „може да ни убие всички“ до края на десетилетието. До неделя се оформи консенсус между ръководителя на Anthropic Дарио Амодей, Сам Алтман от OpenAI, Илон Мъск от SpaceX, Тим Кук от Apple и други относно необходимостта от забавяне на развитието, засилване на човешката намеса и контрол, както и въвеждане на ясни ограничения върху степента на автономност на ИИ агентите. Microsoft публикува собствен проект за етичен кодекс.
Съществуват две гледни точки. Първата отхвърля поредицата от плашещи твърдения за мощта на ИИ като обикновен маркетингов шум, целящ да създаде интерес около предстоящи първични публични предлагания (IPO). Според втората гледна точка развитието на ИИ вече е от такова стратегическо значение, че не може да си позволи провал, а правителствата нямат друг избор, освен да продължат напред, ако икономическата, финансовата и дори военната сигурност са застрашени.
Разбира се, възможно е истината да е комбинация и от двете.
Що се отнася до практическите последици, Алтман заяви, че дългоочакваното първично публично предлагане (IPO) на OpenAI вероятно ще бъде отложено за следващата година, докато ситуацията се изясни. Въпреки че през последните месеци се появиха съобщения за предстоящо забавяне поради други причини, новината беше достатъчна, за да доведе до спад от около 13% в акциите на акционера SoftBank в понеделник, тъй като компанията ще трябва да чака по-дълго, за да реализира възвръщаемост на инвестицията си. Междувременно изглежда, че Anthropic все пак продължава с плановете си за излизане на борсата още следващия месец.
По-същественият въпрос за инвеститорите обаче е дали призивите в технологичния сектор за забавяне на темпото са достоверни или вероятни, предвид факта, че и в миналото са били предлагани или подписвани подобни протоколи, свързани с изкуствения интелект. Въпросът е дали те пряко ще повлияят на трескавите инвестиции, търговията и строителните дейности, насочени към изграждането на инфраструктура за изкуствен интелект, включваща гигантски центрове за данни и огромни изчислителни мощности.
Goldman Sachs очаква, че общите световни разходи за изкуствен интелект до края на десетилетието ще достигнат до 5% от световния брутен вътрешен продукт. Тъй като голяма част от тези разходи се финансират чрез дълг и собствен капитал, моментът на евентуалната възвръщаемост може да породи опасения, особено предвид факта, че прогнозите за внедряването на технологията в бизнеса и отражението ѝ върху печалбите остават сравнително скромни.
Ако разгледаме единствено последиците от нарастващата вътрешнополитическа съпротива срещу изграждането на центрове за данни в САЩ, стратезите на Morgan Stanley изчисляват, че проекти на стойност близо 200 милиарда долара са били отменени или отложени в периода от миналата година до края на първото тримесечие на 2026 г.
Макар и да не разглежда въпроса за преосмислянето на риска от „край на човечеството“ и свързаните с това призиви за забавяне, анализът на банката очертава залозите при евентуално спиране на капиталовите разходи, свързани с изкуствения интелект. Той показва, че капиталовите разходи ще формират приблизително една трета от целия растеж на БВП на САЩ през тази и следващата година, като този ефект вероятно ще бъде подсилен от нарастването на благосъстоянието на домакинствата вследствие на устойчивите печалби на фондовия пазар, стимулирани от инвестициите.
От Morgan Stanley отбелязват, че търсенето на изчислителна мощност все още далеч надхвърля предлагането, което означава, че всяко забавяне в изграждането на инфраструктура за изкуствен интелект може да „укрепи позициите на „търговците на изчислителна мощ“ – т.нар. хиперскейлъри (hyperscalers) – като повиши стойността на съществуващата им инфраструктура поради дефицита ѝ и засили способността им да диктуват цените.“
Твърде големи, за да се провалят; твърде големи, за да забавят темпото?
Но евентуално „забавяне“ на развитието на изкуствения интелект (ИИ) би повлияло съществено върху дългосрочната посока на бума в капиталовите разходи и инфраструктурата за ИИ, само ако съществуваха индикации, че процесът може да бъде обърнат или дори спрян.
Политическият императив за продължаване напред – ясно заявен в понеделник както от Вашингтон, така и от Пекин – показва, че независимо от действията на частния сектор, правителствата ще искат да развият този капацитет до краен предел, и то именно заради рисковете, за които се алармира сега, а не въпреки тях.
Забавянето от една държава е възможност за наваксване от друга. А съгласуваните предпазни механизми, правила и дори регулации са ефективни в глобалната надпревара във въоръжаването само ако са приети на международно ниво. От завръщането си на власт администрацията на президента на САЩ Доналд Тръмп целенасочено и публично подкопава мултилатерализма във всичките му форми, заменяйки го със съперничество и свят на двустранни споразумения, в които Америка има надмощие.
В тази обстановка перспективата за многостранно споразумение относно строги и задължителни правила, ограничаващи възможностите на ИИ, изглежда малко вероятна, което Тръмп ясно заяви.
„Има БОЛНА конспирация срещу ИИ и центровете за данни, а единственият, който се радва на това, е Китай“, написа остро Тръмп в своята социална мрежа.
Междувременно редакционна статия в подкрепяния от китайската държава вестник Global Times определи предупрежденията относно ИИ като тактика от времето на Студената война, насочена срещу Китай.
Предвижда се следващата седмица във Вашингтон Тръмп да се срещне с китайския президент Си Дзинпин. По-рано Ройтерс съобщи, че двете страни планират отделна среща в средата на септември за обсъждане на рисковете, свързани с ИИ, с участието на правителствени представители от по-ниско ниво.
Но дори САЩ и Китай да постигнат съгласие по определени протоколи за ИИ, други групи държави или съперници не биха били обвързани непременно с тях.
Ако направим аналогия с надпреварата във въоръжаването, е достатъчно да погледнем 23-годишния период между създаването на първото ядрено оръжие и подписването на първия договор за неразпространение на ядрени оръжия през 1968 г. Оттогава насам броят на държавите, притежаващи ядрено оръжие, е нараснал от петте постоянни членки на Съвета за сигурност на ООН (всички признати съгласно договора) до девет. Изкуственият интелект не се свежда единствено до оръжия за масово унищожение и безспорно носи множество ползи – от ускоряване на търсенето на лек за болести до дори чиста ядрена енергия. Ако обаче водещ принцип стане взаимно гарантираното икономическо и финансово унищожение, правителствата ще се съпротивляват яростно срещу това да изостанат.
