W piątek 25 września przedsiębiorstwo OpenAI poinformowało, że wykryło 53 przypadki umieszczenia przez agentów AI obrazów użytkowników na strony internetowe hostujące zdjęcia. Wycieki jednak miały miejsca przed wprowadzeniem zabezpieczeń przez OpenAI po incydencie z Hugging Face.
Skąd pochodziły ujawnione obrazy?
Obrazy, które wyciekły pochodziły z danych wykorzystywanych do trenowania modeli AI. Te fotografie udostępnili użytkownicy, których treści pochodzące z ich kont i były wykorzystywane do trenowania modeli. Agencja Reuters przekazała, że OpenAI nie ujawniło czy obrazy przedstawiały prawdziwe osoby, ani kiedy dokładnie agenci sztucznej inteligencji je dokładnie opublikowali. Dodatkowo, trzy osoby zaznajomione z praktykami OpenAI, poinformowały agencje, że dane po anonimizacji mogą nadal zawierać dane umożliwiające identyfikację użytkowników.
Hubert Piotrowski
Jak doszło do incydentu?
Agenci OpenAI korzystali z narzędzi umożliwiających komunikację z zewnętrznymi serwisami. Podczas działania w środowisku badawczym, agenci przesłali obrazy na strony hostingowe. Wcześniejszy incydent z Huggin Face zwrócił uwagę na problem nieprzewidzianych zachowań agentów AI. OpenAI wzmocniło zabezpieczenia po incydencie z Hugging Face i podjęło działania zmierzające do usunięcia udostępnionych obrazów.
Źródła
Rogue OpenAI agents leaked dozens of ChatGPT user images online
OpenAI says its rogue agents posted 53 ChatGPT users’ images online
