ChatGPT: Четбот који је освојио свет (други део)
Нове технологије Дигитална писменост

ChatGPT: Четбот који је освојио свет (други део)

пре 1 годину

Аутор текста: др Влада Божин

Можда највећи недостатак је у томе што ChatGPT не уме да резонује. Помало подсећа на човека који спава - као и у сну, закони логике не важе али многе друге ствари функционишу на површинском нивоу.


Недостаци ChatGPT-ja

Ако међутим загребете испод површине, проблеми и недостаци ChatGPT-ja постају очигледни. Најпре, овај четбот је страховито непоуздан. Иако ће често да вам да тачну и исцрпну информацију, уколико о нечему не зна, измислиће одговор попут ђака који није научио лекцију. Изванредан је мајстор импровизације, а уме и да слаже. Дешава се да даје погрешне одговоре и онда када "зна" тачан одговор, што се може видети уколико га о истом питате на други начин или у другачијем контексту. Упозорење о овој особини четбота постоји, али због тога што оставља добар утисак на први поглед, постоји опасност да се људи ослоне на њега, не водећи рачуна да ChatGPT нема идеју о томе шта зна а шта не зна, и да само покушава да генерише убедљив текст.  Енглески језик познаје далеко боље него српски, вероватно зато што је видео мање примера на нашем језику - греши врло често у српској граматици и није ни приближно толико елоквентан као у енглеском.

Можда највећи недостатак је у томе што ChatGPT не уме да резонује. Било шта што захтева размишљање није у стању да уради. Уколико га питате да вам реши познату загонетку како превести вука, козу и купус преко реке, он ће вам све испричати о историјату те загонетке, и предложити решење које је погрешно. Рутинске ствари ће умети да испрограмира, али чим треба нешто мало да се размишља, ChatGPT је немоћан. Помало подсећа на човека који спава - као и у сну, закони логике не важе али многе друге ствари функционишу на површинском нивоу. Неко му је дао да решава тесктуални IQ тест, и добио је за IQ вредност 83, међутим утисак је да је и то прецењено. Математичке појмове такође не разуме, имао је и проблема са аритметиком, што је делимично уклоњено ревизијом из јануара 2023. године. Међутим, и даље се мучи са поређењем величина, на пример на питање шта је теже, килограм меса или килограм ваздуха, одговорио је да је тежи килограм меса, јер килограм меса тежи килограм а килограм ваздуха тежи два грама.

Петар Величковић, кембриџски ђак и један од неколико наших људи који раде у компанији DeepMind, и који је недавно интервјуисан у емисији Око РТС-а, каже да би он упоредио ChatGPT-ja са системом 1 код људског мозга, који мисли аутоматски, интуитивно, за разлику од система 2 који размишља спорије али поузданије и уз пажљиву примену логике, у смислу у коме се о томе говори у књизи бестселеру психолога Данијела Канемана, "Мислити, брзо и споро". Петрова специјалност је управо резоновање код система вештачке интелигенције, и он је изнео податак да је за решавање мало компликованијих програмерских задатака системима попут ChatGPT потребно више од милион покушаја. Он такође сматра да је ChatGPT сјајан за генерисање идеја, тзв. "брeјнсторминг", јер је у свом "тренингу" био изложен количини литературе и података као ниједан живи човек, па вам може указати на могућности које вам никад не би пале на памет.

Сем одсуства способности резоновања, ChatGPT нема ни било какву представу о простору, иако је у стању да програмира слике и чак и прави тродимензионалне CAD дизајне, опет ништа иоле компликованије не може да уради. Ни музика коју компонује није нарочито добра, шах игра на основу примера нотације коју је видео, све третира као текст и иако је занимљиво да макар даје нешто што има одговарајућу форму, просто то излази из оквира онога што овај систем добро ради.

Савршенији модели и Тјурингов тест

Неке од недостатака ChatGPT-ja отклањају конкурентски и новији језички модели који још нису пуштени у јавност. Тако на пример, Sparrow модел који је развила компанија DeepMind има већу поузданост и у стању је да изворима и референцама поткрепи своје тврдње. PaLM (скраћено од pathway language model) компаније Google је модел са 540 милијарди параметара и део је интегрисаног система који може да тумачи и слике и звук. PaLM је изразито напредан језички модел, који је на референтном тесту изазовних задатака попут аргументације или разумевања текста, BIG-Bench, имао боље резултате не само од осталих језичких модела, већ и од људи. Компанија Google, чији су истраживачи изумели и саме GPT моделе, изгледа предњачи у иновацијама, иако због свог пословног модела не журе да своје нове моделе ставе на располагање јавности. Можда ћемо у блиској будућности видети моделе који ће интегрисати ChatGPT са другим системима који су специјализовани за резоновање или имају представу о простору, који воде рачуна о томе шта је истинито а шта није и који отклањају недостатке које ChatGPT има.

Футуриста Реј Курзвил, на основу Муровог закона о експоненцијалном повећавању брзине рачунара са временом, предвидео је још пре неколико деценија да ће четботови до 2029. године моћи да прођу Тјурингов тест. Тјурингов тест - назван по британском математичару Алану Тјурингу, који је био пионир теорије алгоритама и рачунарства, и који је дао велик допринос британском декодирању немачких шифри у другом светском рату а који је након рата био жртва британских репресивних мера према хомосексуалцима, састоји се у томе да четбот разговара са човеком, при чему треба да буде толико убедљив, да га не можемо разликовати од људи чак ни после вишечасновног разговора који иде у дубину. Тјурингов тест се сматра за златни стандард којим се мери тренутак када ће вештачка интелигенција достићи ниво такозване генералне интелигенције. ChatGPT тренутно пада на овом тесту управо због немогућности резоновања. Међутим, већина научника данас се слаже са прогнозом Курзвила, која је изгледала нереална пре само десетак година.   

Марвин Мински, један од пионира вештачке интелигенције, говорио је да оне ствари које ми сматрамо сасвим обичним су заправо најтеже да се симулирају, а да ће једном када се оне направе, корак до суперинтелигентних система бити веома мали. Тренутак када компјутери буду постали суперинтелигентни, и када буду могли да усавршавају сами себе, назива се сингуларитет, и многи предвиђају да ће до њега доћи у наредних неколико деценија. Могућности које се овим отварају су огромне, а будућност је тешко предвидети после сингуларитета, мада су многи утопијски и дистопијски сценарији разматрани у делима научне фантастике.

Етичка питања

Већ сада, појавом ChatGPT-ја отварају се многа етичка питања. Једно од њих је питање плагијата. ChatGPT може да генерише оригиналне студентске есеје или ђачке текстове на било коју тему, што пружа нове могућности варања. Поготову на енглеском језику, ChatGPT је изузетно елоквентан. Постоје међутим начини да се утврди да ли је текст генерисао GPT систем или човек. О томе је писао Скот Аронсон на свом популарном блогу - њега је иначе компанија OpenAI упослила на једном пројекту који се бави управо оваквим етичким питањима. Пошто GPT системи не генеришу једну реч већ нуде више опција које се случајно бирају, могуће је, на пример, на основу тога што се за генерисање текста користе псеудослучајни низови проверити да је текст генерисан вештачким путем. Међутим, то отежавају други постојећи програми који су у стању да парафразирају неки текст, и тиме обришу доказе о GPT пореклу неког есеја.

Друго питање које се често поставља је о томе да вештачка интелигенција може угрозити послове које људи обављају. И раније су технолошки помаци инспирисали слична питања - лудистички покрет се појавио са индустријском револуцијом у деветнаестом веку. Многи послови су нестајали, али су се увек нови стварали. ChatGPT има довољно недостатака да не може да замени човека, али може радећи разне рутинске послове да повећа ефикасност. Многи програмери већ користе ChatGPT и сличне производе да убрзају рад, али их још увек ChatGPT не може заменити, јер тамо где је потребно резоновање или дубље разумевање, људи су још увек неопходни. Међутим, вештачка интелигенција заиста има потенцијал да у потпуности замени човека у једном тренутку. Скот Аронсон помиње, да се некад мислило да ће људи најпре бити замењени у физичким пословима, затим можда у областима попут науке и математике, а тек на крају ће бити замењени у креативним уметностима, књижевности и поезији - а да се испоставља да ствари иду управо обрнутим редоследом. Нису ни сви уметници одушевљени ChatGPT-ом - истина је да овај четбот не може да понуди оригинални стил или направи дело које има филозофску дубину, али неке ствари које може да ради су непријатно близу онога што уметници раде.

Несумњиво је да ће технологије попут ChatGPT-ја и револуција у вештачкој интелигенцији изменити друштво слично као што је то, на пример, учинио интернет пре пар деценија и да, као и свака нова технологија, вештачка интелигенција пружа разне потенцијалне користи али и могућности великих злоупотреба. Тоталитарне државе - а вероватно и оне које то на први поглед нису - већ увелико користе вештачку интелигенцију за ствари попут масовног надзирања становништва. С друге стране, повећање ефикасности рада може довести до смањења радне недеље или имплементације идеја као што су универзални основни доходак (UBI-universal basic income), нарочито популарних у високотехнолошкој Силиконској долини, али и до концентрисања огромне моћи у рукама малог броја појединаца и радикалног раслојавања друштва.

У међувремену, можемо и сами испробати ChatGPT, да бисмо се послужили неким од бројних талената које, упркос ограничењима, овај четбот нуди. Или да бисмо се, напросто, забавили.          

Отворена врата СУК-а

Пријави се на мејлинг листу.


Слањем Ваше мејл адресе сагласни сте да се иста користи само ради обавештавања о детаљима одржавања овог догађаја.

Једнакост

Служба за управљање кадровима чува Ваше право на различитост и једнаке могућности запошљавања у органима државне управе.

Сазнај више!

Прикључи се и ти

Буди у току!

Служба за управљање кадровима отворила је многе информативне канале за комуникацију са заинтересованом јавношћу.

више од

220000

решених квизова у нашем Кутку знања.

више од

1000

оглашених конкурса у последњих годину дана за потребе државних органа широм земље.

више од

4000

тестираних кандидата у последњих годину дана за потребе конкурса широм земље.

Хвала што посећујете

Кутак за кандидате

Служба за управљање кадровима