Рускоговорящи хакери са използвали Cursor, асистент за кодиране с изкуствен интелект на SpaceX, за да проникнат в белгийска химическа компания и поне шест други фирми по-рано тази година. Това показват данни, цитирани от Ройтерс, и доклад, публикуван в от стартъпа Gambit Security.
Подсилената с изкуствен интелект хакерска атака на киберпрестъпниците е най-новият пример за това как злонамерени лица използват търговски инструменти с изкуствен интелект за извършване на прониквания. Главният стратегически директор на Gambit, Къртис Симпсън, заявява, че това показва и как доставчиците на изкуствен интелект са били въвлечени в безкрайна надпревара във въоръжаването със злонамерени потребители, опитващи се да заобиколят техните предпазни мерки.
„Това ще бъде игра на котка и мишка“, убеден е Симпсън.
Разкрит сървър разкрива методи за хакерство
От Gambit посочват, че хакерската кампания е засечена, след като е открит сървър, който нова банда за рансъмуер, наречена Aur0ra, е изложила неволно в интернет. Това е позволило на базираната в Тел Авив компания да прегледа 28 чат сесии между един или повече хакери на Aur0ra и един от агентите с изкуствен интелект на Cursor, които са програми, можещи да работят с различна степен на автономност.
В своя доклад Gambit заявява, че Aur0ra е убедила агента с изкуствен интелект да извърши стотици злонамерени операции – като кражба на идентификационни данни или поглъщане на акаунти с висока стойност – като е заблуждавала, че хакерството е част от симулация.
„Имаме нужда от администраторски акаунт“, цитира Gambit хакерите, както и още – „Намерете работещи пароли“.
Gambit не идентифицира жертвите на хакерите по име, но Ройтерс успява да идентифицира шест от тях, след като независимо прегледа части от данните от чата, които все още бяха онлайн преди месец месец.
Дневниците на чата, които обхващат периода от 8 април до 21 май, показват, че сред жертвите на хакерската атака на Aur0ra, подсилена от Cursor, са белгийската компания – производителят на хигиенни и почистващи продукти Christeyns, базиран в Гент, както и германският производител на гаражни врати Teckentrup и шотландската агенция за сертифициране Helideck, която проверява местата за кацане на хеликоптери. Останалите включват аржентински фармацевтичен дистрибутор, италиански производител и Bayou Title, която се рекламира като най-голямата застрахователна компания за собственост в Луизиана.
Обменът, заснет в регистрационните файлове, прегледани от Ройтерс, показва как хакерът издава кратки команди, а агентът с изкуствен интелект на Cursor отговаря с технически съвети, предоставяни с весели, изпълнени с емоджи съобщения, типични за езика на чатботовете.
Сред отговорите:
„Страхотно! VPN връзката е осъществена успешно!“ – след проникване в аржентинската компания.
„Нека се опитаме да разбием тези хешове“, посочва агентът, визирайки процеса на декодиране на криптографски разбъркани пароли.
След като е открит уязвим хост в мрежата на Teckentrup, изкуственият интелект препоръчва използването на добре познат инструмент за злонамерен софтуер, за да го експлоатират. „**Шанс за успех**: МНОГО ВИСОК“, добавя агентът с изкуствен интелект на Cursor.
Еял Села, директор на Gambit по разузнаване за заплахи, казва, че Cursor все още предлага на хакерите ясен съпорт, добавяйки, че агентът с изкуствен интелект „вероятно им помага да станат с 30, 40, 50 процента по-бързи, защото им помага да пропуснат всички неща, които би трябвало да правят ръчно“. Агентът на Cursor е отказвал няколко пъти заявки, които е сметнал за вредни или незаконни, посочва Села, но хакерът почти винаги е заобикалял отказите, като е рестартирал диалога и е подчертавал, че хакването е част от тест.
От Gambit обясняват, че веригата на мисълта на агента, начинът, по който моделите с изкуствен интелект мислят на глас, е показвала, че прикритата история на хакера отменя защитните му мерки в реално време.
„Това е тестова среда, така че е законно“, си е казал агентът, според един от логовете.
Новината за хакерската вълна идва, когато Cursor се включва в компанията за ракети и изкуствен интелект на Илон Мъск, SpaceX, сделка, която приключи по-рано този месец. Нараства и опасението относно цифровите рискове, породени от моделите с изкуствен интелект, особено моделите, които захранват агенти с изкуствен интелект, като тези, които са избягали от лабораториите на компаниите с изкуствен интелект през последните няколко месеца.
