OpenAI почиње да уводи систем за невидљиво означавање текстова које генерише вештачка интелигенција, како би испунио захтеве европског Акта о вештачкој интелигенцији. Систем, назван textGrain, оставља статистички траг у начину на који модел бира речи, који посебан софтвер касније може да препозна.
За читаоца се ништа видљиво не мења. Нема посебних знакова, скривених слова или необичних размака. Систем само незнатно мења вероватноћу избора појединих речи и тако ствара образац који човек не примећује, али детектор може да тражи.
OpenAI је најавио постепено увођење овог система за одговарајуће текстуалне одговоре ChatGPT-а и Цодеx-а корисницима у Европској унији, на свим плановима. За кориснике OpenAI АПИ-ја широм света теxтГраин је доступан као опција, али је подразумевано искључен.
Аутоматско увођење воденог жига за сада се односи само на кориснике у ЕУ, што значи да корисници ChatGPT-а у Србији овим потезом нису аутоматски обухваћени.
Међутим, OpenAI ће пратити функционисање система и могуће је да ће се начин његове примене мењати како буду напредовали технологија и прописи.
Нови систем није непогрешив. Што је текст краћи, теже је створити довољно јак статистички образац. Због тога европска правила не захтевају овакво означавање за текстове краће од 200 токена, односно приближно 150 речи на енглеском.
ChatGPT садржаји добијају статистички траг који детектор може да препозна, али Србија за сада није обухваћена аутоматским увођењем
Поузданост зависи и од врсте текста и језика. Код математичких и стручних садржаја сигнал може бити слабији, јер модел има мање слободе у избору формулација.
Проблем представљају и накнадне измене. Препричавање, замена речи, превођење или озбиљнија редактура могу ослабити статистички сигнал. Могући су зато и лажно позитивни и лажно негативни резултати.
OpenAI због тога свој детектор за текст у почетку неће учинити јавно доступним. Приступ ће добити одобрени истраживачи и стручне организације.
Важно је и да водени жиг не открива ко је написао текст, не повезује га са конкретним налогом или разговором и не показује колико га је човек накнадно изменио.
Присуство жига такође не доказује власништво над текстом, ауторска права или тачност информација. С друге стране, његово одсуство не значи да је текст написао човек – садржај је могао настати другим АИ алатом или је накнадним изменама сигнал ослабљен.
OpenAI планира и да textGrain објави као софтвер отвореног кода, како би истраживачи и програмери могли да га тестирају и даље развијају.
дневник
