Вештачка интелигенција пише мејлове, саставља извештаје, помаже ученицима око домаћих задатака и програмерима у писању кода
Проблем је што је све теже проценити да ли је неки текст написао човек или га је направио четбот.
Управо зато компанија OpenAI уводи нову технологију која би требало да олакша препознавање садржаја насталог уз помоћ њених алата, а да притом читаоци не виде никакву посебну ознаку у тексту.
Реч је о такозваном воденом жигу,односно невидљивом дигиталном трагу који се уграђује у текст који генеришу ChatGPT и алат за програмирање Codex. OpenAI је објавио и план за постепено увођење ове технологије у Европској унији, у складу са новим правилима о транспарентности вештачке интелигенције. Међутим, да вам одмах разјаснимо, то не значи да ће сваки текст који је икада написан уз помоћ ChatGPT-ја аутоматски добити ознаку, нити да ће било ко моћи да провери порекло сваког садржаја једним кликом.
Како ради невидљиви жиг
Технологија носи назив TextGrain и функционише другачије од класичног воденог жига који се ставља преко фотографије или видеа. Уместо видљивог симбола, она утиче на статистички образац избора речи током генерисања текста. Тај образац нашем људском оку није приметан, али специјализовани софтвер може да тражи карактеристичан траг и процени да ли је у стварању садржаја учествовао OpenAI-јев модел.
Ово значи да текст може да изгледа сасвим обично, без упозорења, посебне боје, симбола или додатне реченице на крају. Када корисник копира такав садржај у документ, мејл или другу апликацију, дигитални траг може да остане присутан, јер није везан за изглед странице, већ за начин на који су речи изабране. Ипак, важно је разумети да ово није чаробни печат који се никада не може изгубити, већ накнадне измене могу знатно да ослабе могућност откривања.
Неће сваки текст моћи лако да се препозна
OpenAI наводи да је TextGrain у њиховим тестирањима остварио резултате који су били једнаки или бољи од појединих других приступа које су испробали, укључујући Google DeepMindov SynthID за текст. Ипак, компанија упозорава да добри резултати у контролисаним условима не гарантују једнаку поузданост у свакодневној употреби. Посебан проблем представљају кратки одговори и садржај у којем нема много простора за различите формулације, попут математичких објашњења.
Да ли ће текстови бити лошији због ове промене?
Једно од главних питања јесте да ли ће невидљиви жиг утицати на квалитет одговора које ChatGPT даје корисницима. Према резултатима које је објавио OpenAI, тестирања на различитим мерилима нису показала значајне разлике у перформансама модела са воденим жигом и без њега, што је важно зато што би систем који приметно квари одговоре, отежава програмирање или производи неприродне реченице могао да изазове незадовољство корисника.
Ко ће моћи да проверава порекло текста?
OpenAI планира да у наредним недељама постепено уведе невидљиви жиг у текстове које генеришу доступне верзије ChatGPT-ја и Codexa за кориснике у Европској унији, без обзира на план претплате. За сада компанија не најављује да ће ова промена аутоматски постати глобално правило за све кориснике. Програмери који користе OpenAI API широм света могу да укључе опцију за подржане моделе, али је она у почетку искључена по подразумеваним подешавањима.
Још једна важна ствар јесте то што детектор неће одмах бити доступан свима. ОпенАИ ће у почетној фази одобравати приступ истраживачима и стручним организацијама које могу да помогну у провери поузданости система.
Шта ово значи за обичне кориснике?
Нова технологија могла би да буде корисна у образовању, медијима и пословању, где је све важније знати на који начин је неки садржај настао. На пример, могла би да помогне у провери да ли је одређени текст генерисан уз помоћ OpenAI-јевих алата, али сама по себи не може да покаже колико је човек учествовао у писању, уређивању или провери информација. Зато ни пронађени водени жиг не значи аутоматски да је текст у потпуности написала машина, баш као што његово одсуство не доказује да га је написао човек.
Увођење ове технологије повезано је и са европским правилима о транспарентности вештачке интелигенције. Европски закон о вештачкој интелигенцији, познат као EU AI Act, предвиђа обавезе у вези са означавањем и препознатљивошћу одређених садржаја које генеришу системи вештачке интелигенције. Ипак, дигитални водени жиг није исто што и доказ да је садржај истинит, законит или правилно представљен. Он даје ограничену информацију о могућем пореклу текста, а не пресуду о његовом квалитету или ауторству.
За кориснике у Србији најважније је да не претпоставе како ће сваки текст из ChatGPT-ја већ сада имати невидљиву ознаку.
Да вам скратимо муке, у случају да користите обичан ChatGPT у Србији – за сада нема потврде да ће текстови које добијате аутоматски имати овај жиг. Ипак, ако компанија прошири увођење на Србију, начин на који ChatGPT генерише текст могао би да се промени и за домаће кориснике.
Најављено увођење односи се на Европску унију, док је за кориснике API-ја широм света опција доступна уз њихово укључивање, за подржане моделе. Шире увођење, доступност детектора и поузданост препознавања зависиће од даљег развоја технологије и искустава из праксе.
Ова технологија могла би да буде посебно занимљива школама и факултетима у нашо земљи, где се све више поставља питање колико ученици и студенти користе вештачку интелигенцију за писање домаћих задатака, семинарских и дипломских радова. Ако систем за препознавање постане шире доступан, наставницима би могао да послужи као додатни начин провере порекла текста. Ипак, не би било оправдано да се само на основу резултата детектора некоме припише превара, јер водени жиг није непогрешив доказ ауторства.
Забрањено преузимање дела или читавог текста и/или фото/видеа, без навођења и линковања извора и аутора, а у складу са одредбама WMG услова коришћења и Законом о јавном информисању и медијима.
курир.рс
