Изкуственият интелект може да представлява „по-спешна“ заплаха за човечеството от изменението на климата, изтъква пионерът в ръзработването на ИИ Джефри Хинтън в интервю за Ройтерс.
Хинтън, широко известен като един от „кръстниците на AI“, наскоро обяви, че е напуснал Alphabet след десетилетие във фирмата, заявявайки, че иска да говори открито за рисковете на технологията, без това да засегне бившия му работодател.
Работата на Хинтън се счита за съществена за развитието на съвременни системи за изкуствен интелект. През 1986 г. той е съавтор на основополагащата статия „Изучаване на представяния чрез обратно разпространение на грешки“, крайъгълен камък в развитието на невронните мрежи, които са в основата на AI технологията. През 2018 г. той е удостоен с наградата Тюринг като признание за неговите изследователски пробиви.
Но сега е сред нарастващия брой технологични лидери, които публично изразяват загриженост относно възможната заплаха, представлявана от ИИ, ако машините постигнат по-висок интелект от хората и поемат контрола над планетата.
„Не бих искал да подценявам изменението на климата. Не бих искал да кажа: „Не трябва да се тревожите за изменението на климата.“ Това също е огромен риск„, каза Хинтън. „Но мисля, че това (ИИ, бел. ред.)може да се окаже по-спешно.“ Той добавя: „С изменението на климата е много лесно да се препоръча какво трябва да направите: просто спрете да изгаряте въглерод. Ако направите това, в крайна сметка нещата ще се оправят. За това изобщо не е ясно какво трябва да направите.“
Подкрепяният от Microsoft OpenAI задейства стартовия пистолет в надпреварата в технологичното въоръжаване през ноември, когато създаде базиран на изкуствен интелект чатбот ChatGPT достъпен за обществеността. Скоро то се превърна в най-бързо развиващото се приложение в историята, достигайки 100 милиона месечни потребители за 60 дена.
През април изпълнителният директор на Twitter Илон Мъск се присъедини към хиляди, подписали отворено писмо, призоваващо за шестмесечна пауза в разработването на системи, по-мощни от наскоро пуснатия GPT-4 на OpenAI. Сред подписалите е главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от DeepMind, собственост на Alphabet, и други пионери на ИИ, сред които Йошуа Бенгио и Стюарт Ръсел.
Докато Хинтън споделя загрижеността на писмото, че изкуственият интелект може да се окаже екзистенциална заплаха за човечеството, той не е съгласен със спирането на изследванията.
„Това е напълно нереалистично“, казва той. „Аз съм в лагера, който смята, че това е екзистенциален риск, който е достатъчно близо, затова трябва да работим много усилено в момента и да влагаме много ресурси, за да разберем какво можем да направим по въпроса.“
В Европейския съюз комисия от законодатели отговори на подкрепеното от Мъск писмо, призовавайки президента на САЩ Джо Байдън да свика световна среща на върха относно бъдещата посока на технологията с участиието на председателя на Европейската комисия Урсула фон дер Лайен.
Миналата седмица в ЕС бе постигнато съгласие за забележителен набор от предложения, насочени към генеративния AI, който ще принуди компании като OpenAI да разкрият всякакви материали с авторски права, използвани за обучение на техните модели.
Междувременно Байдън проведе в Белия дом разговори с редица лидери на компании за изкуствен интелект, включително главния изпълнителен директор на Alphabet Сундар Пичай и главния изпълнителен директор на OpenAI Сам Алтман, обещавайки „откровена и конструктивна дискусия“ относно необходимостта компаниите да бъдат по-прозрачни относно своите системи.
„Технологичните лидери разбират най-добре това и политиците трябва да бъдат включени“, казва още Хинтън. „Това засяга всички ни, така че всички трябва да мислим.“
