Експерти откриха опасна уязвимост в браузъра Atlas на OpenAI

Пропуск в Omnibox дава възможност за опасни атаки

Експерти по киберсигурност от NeuralTrust откриха сериозен пропуск в сигурността на браузъра Atlas на OpenAI.

Уязвимостта се намира в полето за въвеждане на адреси и команди, наречено Omnibox.

Хакери могат да създадат текст, който изглежда като стандартен интернет адрес, но съдържа скрити зловредни инструкции. Когато потребителят го постави в Omnibox, браузърът го тълкува като команда, а не като уеб адрес.

Така системата изпълнява инструкциите автоматично и заобикаля част от защитните механизми. Това може да доведе до изпълнение на нежелани действия в акаунти, в които потребителят вече е влязъл.

Експертите предупреждават за реална заплаха

Според софтуерния инженер Марти Джорда от NeuralTrust, този тип уязвимост е особено опасен.

Тя може да накара ChatGPT да извърши действия като отваряне на Google Drive и изтриване на файлове.

Техниката представлява нов вариант на познатата атака prompt injection, при която хакери скриват команди в текст.

За разлика от предишните случаи, при Atlas не е нужно посещение на сайт — достатъчно е потребителят да постави текста в адресната лента.

Проблем, който засяга всички AI браузъри

От компанията Brave също предупредиха, че този риск не засяга само OpenAI.

„Ако сте влезли в чувствителни акаунти като банка или имейл, дори обобщение на Reddit публикация може да доведе до кражба на данни“, заявиха от Brave.

Техният екип смята, че AI браузърите имат нужда от нови нива на защита, тъй като уязвимостите се развиват заедно с технологиите.

Реакцията на OpenAI и препоръките на експертите

Директорът по информационна сигурност на OpenAI, Дейн Стъки, призна, че проблемът с промпт инжекциите все още не е решен. Той допълни, че компанията разработва нови филтри и защити, но хакерите стават все по-изобретателни.

От NeuralTrust препоръчват OpenAI да въведе по-строг анализ на въведените адреси.

При всяко съмнение браузърът трябва да откаже навигация, вместо да изпълнява командата.

Експерти откриха опасна уязвимост в браузъра Atlas на OpenAI

За да научите първи най-важното, харесайте страницата ни във Фейсбук , групата ни за любопитни новини във Фейсбук или ни последвайте в  Telegram