fbpx

Създател на AI започва да се плаши от творенията си

Пионер в областта на изкуствения интелект заяви, че е напуснал Google, за да говори свободно за опасностите на технологията, след като осъзнал, че компютрите могат да станат по-умни от хората много по-рано, отколкото той и други експерти са очаквали, информира Ройтерс..

Напуснах, за да мога да говоря за опасностите от AI, без да обмислям как това се отразява на Google“, пише Джефри Хинтън в Twitter.

В интервю за New York Times Хинтън казва, че се притеснява от способността на AI да създава убедителни фалшиви изображения и текстове и свят, в който хората „вече няма да могат да знаят какво е истина“. „Трудно е да се види как можете да попречите на лошите актьори да го използват за лоши неща“, изтъква още той.

Технологията може бързо да измести работниците и да се превърне в по-голяма опасност, тъй като учи нови поведения.

Идеята, че тези неща всъщност могат да станат по-умни от хората – няколко души повярваха в това“, изтъква той пред New York Times. „Но повечето хора смятаха, че е далеч. И аз си мислех, че е далеч. Мислех, че е след 30 до 50 години или дори повече. Очевидно вече не мисля така.

В своя туит Хинтън заявява, че Google са „действали много отговорно“ и отрече, че той е напуснал, за да може да критикува бившия си работодател.

The Times цитира междувременно главния учен на Google, Джеф Дийн, който казва в изявление: „Оставаме ангажирани с отговорен подход към ИИ. Непрекъснато се учим да разбираме възникващите рискове, като същевременно внедряваме смело иновации.“

Откакто подкрепеният от Microsoft стартиращ OpenAI пусна ChatGPT през ноември, нарастващият брой „генеративни AI“ приложения, които могат да създават текст или изображения, провокира загриженост за бъдещото регулиране на технологията.

Това, че толкова много експерти говорят за опасенията си относно безопасността на ИИ, като някои компютърни учени стигат дотам, че съжаляват за част от работата си, трябва да тревожи политиците“, предупреждава д-р Кариса Велиз, доцент по философия в Университета на Оксфордски институт за етика в ИИ. „Времето за регулиране на ИИ е сега“, подчертава тя, цитирана от Ройтерс.




Имате възможност да подкрепите качествените анализи, коментари и новини в "Икономически живот"