5 października przedsiębiorstwo OpenAI poinformowało we wpisie na blogu, że w celu dostosowania się do nowego rozporządzenia o sztucznej inteligencji (AI Act) wprowadza oznakowanie niewidocznym znakiem wodnym. Rozporządzenie to wymaga aby materiały tworzone przy pomocy AI były oznakowane.
Jak działa niewidoczny znak wodny
Niewidoczny znak wodny jak nazwa wskazuje, nie jest rzeczywistym symbolem czy ikoną, działa on jednak na zasadzie osadzenia niewidocznego sygnału statystycznego w doborze słów przez dany model AI. Osadzeniem sygnału zajmuje się technologia textGrain.
W testach firmy OpenAI textGrain miał porównywalną skuteczność w porównaniu z innymi metodami znakowania, w tym SynthID lub nawet osiągał lepsze wyniki w badaniach. Firma jednak twierdzi, że bardzo dobre wyniki w testach nie gwarantują niezawodnego wykrywania treści stworzonych przez AI. Firma zaznacza, że detektory do wykrywania niewidocznego watermarku mogą nie wskazywać znaku wodnego albo pokazywać go, chociaż go nie ma.
Jedną z przyczyn problemów z wykrywaniem znaku wodnego w treściach jest edycja np.: tekstu poprzez zamieniania słów synonimami czy teksty z małą ilością słów.
Hubert Piotrowski
Gdzie będzie dostępne oznaczanie watermarkiem
Znakowanie tekstów zostanie udostępnione użytkownikom ChatGPT i Codex znajdującym się w Unii Europejskiej. Warto dodać, też że już od 5 października klienci API mogą dobrowolnie włączyć znakowanie niewidocznym watermarkiem swoich tekstów w wybranych modelach.
Czego nie mówi niewidoczny znak wodny
Do najważniejszych rzeczy, których nie będzie można stwierdzić poprzez niewidoczny znak wodny jest to, że nie mierzy ludzkiego wkładu w dany tekst, nie potwierdza prawdziwości informacji w tekście czy nie identyfikuje użytkownika z samym tekstem. Warto dodać, też niewidoczny watermark nie określa komu przysługują prawa do danego tekstu, który został stworzony z pomocą AI.
Źródła
Our approach to EU text provenance rules | OpenAI
OpenAI will start watermarking ChatGPT's text in the EU | TechCrunch
