В бързо развиващия се пейзаж на изкуствения интелект, генеративните ИИ инструменти демонстрират невероятен потенциал. Но потенциалът им за вреда също става все по-очевиден. Изданието Visual Capitalist заедно с VERSES формулират някои опасения относно генеративните ИИ инструменти, използващи данни от различни източници. Много от тях попадат в една от следните категории: контрол на качеството и точност на данните, етични съображения или технически предизвикателства.
Проблем 1:
Пристрастен, не пристрастен
Тема: Контрол на качеството и точност
Един от критичните проблеми с генеративния ИИ се крие в тенденцията му да възпроизвежда отклонения, присъстващи в данните, върху които е бил обучен. Вместо да смекчат пристрастията, тези инструменти често ги увеличават или увековечават, повдигайки въпроси относно точността на техните приложения – което може да доведе до много по-големи проблеми около етиката.
Проблем 2:
Проблемът с черната кутия
Тема: Етични и правни съображения
Друго значително препятствие при възприемането на генеративния ИИ е липсата на прозрачност в процесите на вземане на решения. С мисловни процеси, които често са неинтерпретируеми, тези системи са изправени пред предизвикателства при обяснението на своите решения, особено когато възникнат грешки по критични въпроси. Струва си да се отбележи, че това е по-широк проблем със системите с изкуствен интелект, а не само с генеративни инструменти.
Проблем 3:
Висока цена за обучение и поддръжка
Тема: Сложност и технически предизвикателства
Обучението на генеративни ИИ модели като голям езиков модел (LLM) ChatGPT е изключително скъпо, като разходите често достигат милиони долари поради необходимата изчислителна мощност и инфраструктура. Например, сега бившият главен изпълнителен директор на OpenAI, Сам Алтман, потвърди, че обучението на ChatGPT-4 струва огромните 100 милиона долара.
Проблем 4:
Безсмислено папагалство
Тема: Контрол на качеството и точност
Въпреки разширените си възможности, генеративните ИИ са ограничени от данните и моделите, на които са били обучени. Това ограничение води до резултати, които може да не обхващат широчината на човешкото познание или да не се отнасят за различни сценарии.
Проблем 5:
Привеждане в съответствие с човешките ценности
Тема: Етични и правни съображения
За разлика от хората, генеративните ИИ нямат капацитет да обмислят последствията от своите действия в съответствие с човешките ценности. Въпреки че случаи като генерирания от ИИ „Balenciaga Pope“ може да изглеждат безобидни, важно е да се признае, че deepfakes могат да се използват за по-вредни цели, като например разпространение на невярна информация в лицето на кризи в общественото здраве. Това подчертава необходимостта от повече рамки, които гарантират, че тези системи работят в рамките на етичните граници.
Проблем 6:
Гладен за енергия
Тема: Сложност и технически предизвикателства
Въздействието на генеративния ИИ върху околната среда не може да бъде пренебрегнато. С процесорни единици, консумиращи значителна мощност, модели като ChatGPT струват толкова, колкото захранването на 33 000 домакинства в САЩ, като само едно запитване изисква 10 до 100 пъти повече енергия от един имейл.
Проблем 7:
Халюцинации
Тема: Контрол на качеството и точност
Известно е, че генеративните ИИ модели създават изфабрикувани изявления или изображения, когато са изправени пред пропуски в данните, което поражда опасения относно надеждността на техните резултати и потенциалните последствия. Например в промоционален видеоклип на Google Bard чатботът неправилно твърди, че космическият телескоп James Webb е заснел първите изображения на планета извън слънчевата система на Земята.
Проблем 8:
Нарушаване на авторски права и IP
Тема: Етични и правни съображения
Етичното използване на данни става първостепенно, като се има предвид, че няколко генеративни ИИ инструмента присвояват произведения, защитени с авторски права, без съгласие, кредит или компенсация, нарушавайки правата на артисти и творци. OpenAI наскоро въведе компенсационна програма, наречена Copyright Shield, която покрива съдебни разходи за искове за нарушаване на авторски права за определени клиентски нива, вместо да премахва защитени с авторски права материали от обучителния набор от данни на ChatGPT.
Проблем 9:
Статична информация
Тема: Сложност и технически предизвикателства
Поддържането на генеративните ИИ модели актуални изисква значителни изчислителни ресурси и време, което представлява огромно техническо предизвикателство. Някои модели обаче са предназначени за постепенни актуализации, предлагайки потенциално решение на този сложен проблем.
