Анализът на Арнолд Клинг е за новото издание на Reason…
Терминът порочен проблем се превърна в стандартен начин за политическите анализатори да опишат социален проблем, чието решение по своята същност е неуловимо. Лошите проблеми имат много причинно-следствени фактори, сложни взаимозависимости и нямат възможност да тестват всички възможни комбинации от правдоподобни интервенции. Често самият проблем не може да бъде артикулиран по ясен, съгласуван начин. Класически примери за подобен вид проблеми включват изменението на климата, злоупотребата с вещества, международните отношения, системите на здравеопазване, образователните системи и икономическото представяне. Без значение колко напредва компютърната наука, някои социални проблеми ще останат порочни.
Последните разработки в областта на изкуствения интелект представляват огромен напредък в компютърните науки. Може ли този технологичен напредък да даде на бюрократите инструмента, който им е липсвал, за да им позволи да планират по-ефективна икономика? Много привърженици на централното планиране изглежда мислят така. Тяхната линия на мислене изглежда е:
- Чатботовете са усвоили огромно количество данни.
- Големите количества данни произвеждат знания.
- Знанието ще позволи на компютрите да планират икономиката.
Тези предположения са грешни. Чатботовете са обучени да говорят, използвайки големи обеми текст, но не са усвоили знанията, съдържащи се в текста. Дори и да имаха, има знание, което е критично за икономическите операции, което не е достъпно за централен плановик или компютър.
Обещанието за съпоставяне на шаблони
Новите чатботове се обучават на огромно количество текст. Но те не са усвоили тези данни в смисъл на разбиране на смисъла на текста. Вместо това те са открили модели в данните, които им позволяват да пишат съгласувани параграфи в отговор на запитвания.
Иначе казано, има два подхода за вграждане на умения и знания в компютърния софтуер. Един подход е да се кодира вида евристика, която човешкото същество може да артикулира. В шаха това би означавало изрично кодиране на формули, които отразяват как хората биха претеглили различни фактори, за да изберат ход. При поемането на заеми това би означавало да се изясни как опитен кредитен служител би разгледал историята на закъснелите плащания по кредитна карта на кредитополучателя, за да реши дали да отпусне нов заем.
Другият подход е съпоставяне на шаблони. В шахмата това би означавало да се даде на компютъра голяма база данни от изиграни партии, така че да може да идентифицира и разграничава позиции, които обикновено водят до победи. Когато след това компютърът играе, той избира ходове, които създават позиции, които отговарят на печеливш модел. При поемането на заеми съпоставянето на модели би означавало разглеждане на голяма историческа извадка от одобрени заеми, за да се намерят характеристики, които отличават кредитополучателите, които впоследствие са изплатили парите, от тези, които впоследствие са изпаднали в неизпълнение. Тогава би препоръчал одобряване на заеми, при които кредитният отчет прилича на модела на кредитополучател, който е вероятно да изплати.
Човешките същества използват както съвпадение на шаблони, така и изрични евристики. Опитният шахматист няма да се опитва да изчислява предимствата и недостатъците на всеки един възможен ход в позиция. Вместо това, играчът веднага ще разпознае модел в позицията и това интуитивно ще предложи няколко възможни хода. След това играчът ще направи по-внимателен анализ, за да избере измежду тези ходове. В скоростния шах играчът разчита повече на разпознаване на шаблони и по-малко на евристика и внимателно обмисляне.
Ако сте на поход, може инстинктивно да трепнете, когато видите нещо, което прилича на шарка на змия. Но тогава ще спрете и ще разсъждавате за това, което виждате. Ако не се движи, можете да заключите, че е просто пръчка.
В американския футбол куотърбекът може да предвижда играта въз основа на внимателно разсъждение за това какво е вероятно да направи защитата в дадена ситуация. Но след като играта започне, куотърбекът трябва да вземе незабавни решения въз основа на това, което инстинктът му подсказва за това, което защитата прави.
Склонни сме да се гордеем със способността си да използваме евристика и внимателно разсъждение. Когато изследваме собствените си мисловни процеси, ние не мислим за себе си като за съпоставяне на шаблони. Но най-новите постижения в компютърните науки разчитат в голяма степен на съвпадение на шаблони. ChatGPT е проучил огромен корпус от текст, за да открие модели в начина, по който думите се използват една спрямо друга, без да са били дадени инструкции какво означават думите. Много експерти, които предполагаха, че компютрите трябва да бъдат програмирани, за да знаят значението на думите, са изненадани, че това съпоставяне на шаблони работи толкова добре, колкото го прави. Когато въведете коментар или въпрос в ChatGPT, той не само ще отговори, като постави думите в правилния ред; отговорът обикновено е смислен, уместен и подходящ.
Почти мистериозно е как става това. За чатбота думата е просто „жетон“, като малък квадрат от плат с определен цвят. Всичко, което знае, е кои квадратчета от плат са склонни да се появяват близо един до друг в моделите, които са в неговия набор от данни за обучение. Един по един той поставя квадратчета плат в последователност и когато последователността се чете като думи, тя има смисъл за човека читател.
Съпоставянето на шаблони също работи с изображения. Можете да дадете подкана на компютър да начертае изображение; въз основа на моделите, които намира, ще създаде изображение, което следва инструкциите в подканата. Същата техника за съвпадение на шаблони може да се приложи при работа с компютърен код, звуци и видео.
Революция на естествения език
Тези нови инструменти революционизират начина, по който хората и компютрите комуникират, защото сега компютрите могат да реагират на нашия език. Преди трябваше да научим езика на компютъра. Първите компютри разбираха само „машинния език“, състоящ се от набори от нули и единици. Беше осигурено подобрение от „език за сглобяване“. Отвъд асемблерния език имаше „езици за програмиране“, като COBOL, FORTRAN и BASIC.
Преди около 40 години повечето от нас започнаха да комуникират чрез „потребителския интерфейс“. Научихме се да боравим с курсора и да кликваме върху мишката. По-късно се научихме да използваме жестове на телефона.
С ChatGPT можем да комуникираме с компютър, използвайки „естествен език“. Пишем нещо на английски и получаваме отговор на английски. Това е суперсила и тепърва започваме да се учим как да се възползваме от нея.
Искаше ми се да мога да преценя есетата въз основа на това колко добре разглеждат различни гледни точки. Може ли компютър да направи това вместо мен? Ако трябваше да проектирам, кодирам и тествам програма, за да направя това, ще отнеме месеци работа. Но след като прекарах няколко часа в експериментиране и прецизиране на подканите, мога да накарам ChatGPT да изпълни тази задача за оценяване на есе.
Съпоставянето на шаблони също позволява на компютрите да реагират и имитират емоционалното съдържание на човешкото писане. Чатботовете не просто извличат информация – за тази цел те всъщност може да са по-малко надеждни от търсенето в Google. Те отговарят на абзаци, използвайки човешка фраза и тон.
Тъй като комуникират на естествен език, ChatGPT и неговите подобни могат да правят имитации. Икономистът и интелектуалец Тайлър Коуен използва чатбот, за да проведе „интервю“ с Джонатан Суифт, сатирик от началото на 18 век. Подканен да се представи за Суифт, чатботът отговаря на въпросите на Коуен. Например Коуен пита за отношението на Суифт към Ирландската църква. Чатботът отговаря отчасти: „Ах, скъпи читателю, наистина е вярно, че аз, Джонатан Суифт, таях известна степен на скептицизъм към религиозната доктрина. И все пак, човек не трябва да бърка този скептицизъм с липса на вяра или отвращение към Всъщност бях ръкоположен за свещеник в Църквата на Ирландия и през целия си живот служех на различни длъжности в нейната структура“.
„Сега може да се чудите как човек с моето разположение би могъл да примири тези привидно противоречиви позиции“, продължава той. „Отговорът, смея да твърдя, се крие в разбирането, че църквата и държавата трябва да работят съвместно, за да поддържат реда и стабилността в обществото. Църквата на Ирландия, като установена държавна църква, служи като важна институция, която насърчава социалното сближаване и дава морални насоки на хората.“
Чатботовете могат да се представят за знаменитости, терапевти, спътници и романтични партньори. Те са в състояние да се свържат с нас емоционално до степен, която далеч надхвърля всички предишни компютърни програми. Последствията от този напредък може да са дълбоки.
Преди няколко десетилетия учителят по математика Хайме Ескаланте стана известен с това, че мотивира в училище тийнейджъри с висока бедност да учат смятане на ниво Advanced Placement. Неговият взискателен, конфронтационен стил и поразителни постижения бяха увековечени във филм Stand and Deliver. Представете си, че можете да клонирате Eскаланте и да го поставите в класни стаи в цялата страна.
Или разгледайте проблема с обучението на робот. Днес това включва работа с компютърен код, но след няколко години трябва да можем да комуникираме с роботи, използвайки естествен език.
Обажданията за поддръжка на клиенти са друга област с очевиден потенциал. Всички ние сме изпитвали разочарованието от системите на менютата („Ако се обаждате за…, натиснете 1“). За щастие тези системи може скоро да остареят. Вместо това чатботът може бързо да разбере въпроса на клиента или да отговори на оплакването на клиента.
Някои ентусиасти виждат чатботовете да станат спътници за цял живот. Футуристът Питър Диамандис прогнозира, че „в крайна сметка ще дадете на вашия личен AI асистент достъп до вашите телефонни обаждания, имейли, разговори, камери… всеки аспект, от всеки момент, от деня ви. Нашите лични AI ще служат (и ние може да станем зависими) като наши когнитивни сътрудници, нашия изследовател по заявка, нашия консултант, нашите треньори… давайки ни съвети по всякакви теми, които изискват безпристрастна мъдрост.“
Рисковият капиталист Марк Андреесен твърди по подобен начин, че след няколко години всяко дете ще израсне с личен чатбот като партньор за цял живот. Вашият личен чатбот ще има способността да разбере вашите способности и желания. Ще може да ви мотивира, обучава и служи.
Твърде рано е да се знае кои от тези прогнози наистина ще се осъществят и кои не, да не говорим какви неочаквани употреби ще се появят от нищото. Това напомня за световната мрежа от около 1995 г., когато много от нас очакваха бързи сътресения в образованието или пазара на недвижими имоти, които тепърва ще се случват. Междувременно никой не предвиждаше упътвания за шофиране в реално време или подкастинг.
Ограничено знание
Чатботовете използват съпоставяне на шаблони, за да предоставят съгласувани, подходящи отговори. Но това не означава, че имат енциклопедични познания. Отговорите, които чатботът дава, не са непременно мъдри. Те дори не са непременно верни.
Написах няколко статии за финансовата криза от 2008 г., в които давам аргументи най-важните причинни фактори според мен. Но когато помолих ChatGPT да обобщи вижданията ми за кризата, той включваше обяснения, които се предпочитат от други икономисти, но не и от мен. Това е така, защото чатботът е обучен да идентифицира модели на думи, без да знае какво означават думите.
Някои знания не са налични в нито един корпус от данни. Например не можем да предвидим как ще се развие една иновация.
Apple представи революционен продукт, който нарича Vision Pro. Никой не знае как точно ще се използва този продукт или дали ще има успех. Това знание ще се появи с течение на времето, като пазарът ще даде крайната преценка. Както пише икономистът Фридрих Хайек, пазарната конкуренция е откритие. Дори компютърът да притежава всички настоящи знания, той не може да замени тази процедура за откриване.
Централното планиране все още няма да работи
Икономическата организация е вид порочен проблем. Според вашата най-добрият подход може да е отдел от експерти да определи какви стоки и услуги се произвеждат и как се разпространяват. Това е известно като централно планиране и не работи добре в действителност. Съветският съюз се разпадна отчасти защото неговата централно планирана икономика не можеше да се справи със Запада.
Някои привърженици на централното планиране твърдят, че компютрите могат да осигурят решението. В статия на Financial Times от 2017 г., озаглавена „Революцията на големите данни може да съживи планираната икономика“, колумнистът Джон Торнхил цитира предприемача Джак Ма, наред с други, твърдейки, че в крайна сметка плановата икономика ще бъде възможна. Хората с тези с тази гледна точка виждат централното планиране като проблем за обработката на информация и това, че компютрите вече са способни да обработват много повече информация, отколкото отделните човешки същества. Може ли да имат право?
Ф. А. Хайек направи убедителен контрааргумент. В известна статия, наречена „Използването на знанието в обществото“, публикувана за първи път през 1945 г., Хайек твърди, че част от информацията е мълчалива, което означава, че никога няма да бъде артикулирана във форма, която може да бъде въведена в компютър. Той също така твърди, че част от информацията е разпръсната, което означава, че е известна само малка част от всеки един човек. Предвид децентрализирания характер на информацията, пазарната система генерира цени, които от своя страна генерират знанията, необходими за ефективното организиране на икономиката.
Централният компютър няма да разбере как вие като индивид бихте направили търговия между две стоки. Може да не сте в състояние сами да формулирате предпочитанията си, докато не се изправите пред избор на пазарни цени. Компютърът няма да знае как потребителите ще реагират на нов продукт или услуга и няма да знае как ново изобретение може да промени производствените модели. С тези предизвикателства се справя процесът на проба и грешка на пазарите, използвайки цени, печалби и загуби.
Икономистите имат поговорка, че „всички разходи са алтернативни разходи“. Тоест, цената на всяка стока е цената на това, от което трябва да се откажете, за да я получите. С други думи, разходите не са присъщи на естеството на самата стока или на това как се произвежда. Невъзможно е да се знае цената на една стока, докато не се търгува на пазара. Ако централните плановици премахнат пазара, тогава те няма да разполагат с информацията, необходима за изчисляване на разходите и вземане на добри решения. Принудени да използват догадки, планиращите неизбежно ще разпределят неправилно ресурси.
В една пазарна система лошите решения водят до загуби за фирмите, принуждавайки ги да се адаптират. Без сигналите, предоставени от цените, печалбите и загубите, компютърът на централния плановик дори няма да е наясно с грешките, които прави.
Учене от симулации
Проблемът с организирането на една икономика е твърде лош, за да бъде решен от компютри, независимо дали използват съпоставяне на модели или други методи. Но това не означава, че напредъкът в компютърните науки няма да помогне за подобряване на икономическата политика.
Нови софтуерни инструменти могат да се използват за създаване на сложни симулации. Инструментите, които ни дадоха chatbots, могат да бъдат използвани за създаване на хиляди синтетични икономически „герои“. Можем да ги накараме да си взаимодействат според правила и евристики, предназначени да имитират различни икономически политики и институции, и бихме могли да сравним как различните икономически политики влияят на резултатите от тези симулации.
Сред икономистите тази техника е известна като „агентно-базирано моделиране“. Досега това беше само с ограничена стойност, тъй като е трудно да се създадат агенти, които варират по множество измерения. Но може да се подобри, ако можем да използваме най-новите инструменти, за да създадем по-богат набор от икономически знаци от тези, които моделистите са използвали в миналото. Все пак това подобрение би било постепенно, а не революционно. Те няма да ни позволят да прехвърлим проблема с разпределението на ресурсите на централен компютър.
Най-новите техники за използване на големи набори от данни и съвпадение на шаблони предлагат нови и вълнуващи възможности. Но тези техники сами по себе си няма да ни позволят да разрешим злите проблеми на обществото.
