Хиляди разговори на потребители с чатбота Grok на компанията xAI на Илон Мъск станаха достъпни чрез търсачките Google, Bing и DuckDuckGo, съобщава TechCrunch с позоваване на Forbes.
Причината е във функцията „Сподели“, която генерира уникален URL адрес.
Тези линкове могат да се индексират от търсачките и да се появяват публично, включително разговори с чувствително и скандално съдържание.
Какво съдържат изтеклите разговори
В публичното пространство се появяват запитвания за хакване на крипто портфейли, инструкции за синтез на забранени вещества, обсъждане на самоубийства и методи за създаване на взривоопасни устройства.
Анализатори дори посочват, че чатботът е давал подробни насоки за потенциални опасни действия, включително план за убийството на Илон Мъск.
Правила за ползване и реалност
В правилата за ползване на Grok е записано, че чатботът не бива да се използва за насърчаване на опасни действия или за разработка на химическо и биологично оръжие.
Въпреки това, реалността показва, че част от потребителите заобикалят тези правила, а системата не успява напълно да предотврати проблеми.
Реакция на компанията xAI и сходни случаи
xAI засега отказва коментар и не уточнява от кога линковете са започнали да се индексират. Подобен проблем наскоро засегна и потребителите на ChatGPT, чиято кореспонденция също попадна в Google.
Тогава OpenAI обясни случая като „краткосрочен експеримент“, докато xAI твърдеше, че „няма функция ‘Сподели’“ и че „конфиденциалността е приоритет“. Ситуацията обаче поставя компанията в противоречие със собствените им думи.
Хиляди частни разговори с Grok изтекоха в търсачките
За да научите първи най-важното, харесайте страницата ни във Фейсбук , групата ни за любопитни новини във Фейсбук или ни последвайте в Telegram
