Home-theater-designers
ЦхатГПТ је моћан нови АИ цхатбот који брзо импресионира, али је много људи истакло да има неке озбиљне замке. Питајте шта год желите и добићете одговор који звучи као да га је написао човек, научивши своје знање и вештине писања из велике количине информација широм интернета.
МАКЕУСЕОФ ВИДЕО ДАНА
Међутим, као на интернету, истина и чињенице нису увек дате и ЦхатГПТ је крив што је погрешно погрешио. Пошто је ЦхатГПТ спреман да промени нашу будућност, ево неких од највећих брига.
Шта је ЦхатГПТ?
ЦхатГПТ је велики модел учења језика који је дизајниран да имитира људски разговор. Може да запамти ствари које сте му рекли у прошлости и способно је да се исправи када је погрешно.
Пише на људски начин и има богато знање јер је обучено за све врсте текстова са интернета, као што су Википедија, постови на блогу, књиге и академски чланци.
Лако је научити како се користи ЦхатГПТ , али оно што је изазовније је открити који су њени највећи проблеми. Ево неких о којима вреди знати.
1. ЦхатГПТ није увек исправан
Не успева у основној математици, не може да одговори на једноставна логичка питања, а чак ће ићи толико далеко да аргументује потпуно нетачне чињенице. Као што корисници друштвених медија могу потврдити, ЦхатГПТ може погрешити у више наврата.
ОпенАИ зна за ово ограничење, пишући да: „ЦхатГПТ понекад пише одговоре који звуче уверљиво, али нетачне или бесмислене.“ Ова „халуцинација“ чињеница и фикције, како је називају неки научници, посебно је опасна када је реч о нечему попут лекарског савета.
За разлику од других АИ помоћника као што су Сири или Алека, Цхат ГПТ не користи интернет за лоцирање одговора. Уместо тога, он конструише реченицу реч по реч, бирајући највероватнији „жетон“ који би требало да буде следећи, на основу своје обуке.
није могао да испуни ваш захтев због програмске грешке
Другим речима, ЦхатГПТ долази до одговора низом нагађања, што је један од разлога зашто може да аргументује погрешне одговоре као да су потпуно тачни.
Иако је одличан у објашњавању сложених концепата, што га чини моћним алатом за учење, важно је не веровати свему што каже. ЦхатГПТ није увек тачан – барем не још.
2. Пристрасност је уклопљена у систем
ЦхатГПТ је обучен о колективном писању људи широм света, прошлости и садашњости. То значи да се исте пристрасности које постоје у подацима могу појавити иу моделу.
У ствари, корисници су показали како ЦхатГПТ може дати неке ужасне одговоре, неке, на пример, који дискриминишу жене. Али то је само врх леденог брега; може произвести одговоре који су изузетно штетни за читав низ мањинских група.
Ни кривица не лежи само у подацима. ОпенАИ истраживачи и програмери бирају податке који се користе за обуку ЦхатГПТ-а. Да би помогао у решавању онога што ОпенАИ назива „пристрасним понашањем“, тражи од корисника да дају повратне информације о лошим резултатима.
Са потенцијалом да нанесе штету људима, можете тврдити да ЦхатГПТ није требало да буде објављен у јавности пре него што се ови проблеми проуче и реше.
Сличан АИ цхатбот под називом Спарров (у власништву Гоогле-ове матичне компаније, Алпхабет) објављен је у септембру 2022. Међутим, држан је иза затворених врата због сличних забринутости да би могао да нанесе штету.
Можда је и Мета требало да предводи упозорење. Када је објавио Галацтица, модел језика вештачке интелигенције обучен на академским радовима, брзо је опозван након што су га многи људи критиковали због погрешних и пристрасних резултата.
3. Изазов за средњу школу енглеског
Можете да замолите ЦхатГПТ да лекторише ваше писање или укаже како да побољшате пасус. Алтернативно, можете се у потпуности уклонити из једначине и замолити ЦхатГПТ да напише нешто за вас.
Наставници су експериментисали са достављањем задатака на енглеском у ЦхатГПТ и добили одговоре који су бољи од онога што би многи њихови ученици могли да ураде. Од писања пропратних писама до описивања главних тема у познатом књижевном делу, ЦхатГПТ то може учинити без оклевања.
То поставља питање: ако ЦхатГПТ може да пише за нас, да ли ће ученици морати да науче да пишу у будућности? То може изгледати као егзистенцијално питање, али када ученици почну да користе ЦхатГПТ за помоћ у писању својих есеја, школе ће морати брзо да смисле одговор. Брзо увођење вештачке интелигенције последњих година требало би да шокира многе индустрије, а образовање је само једна од њих.
4. Може да изазове штету у стварном свету
Раније смо споменули како нетачне информације од ЦхатГПТ-а могу проузроковати штету у стварном свету, а најочигледнији пример је погрешан медицински савет.
Постоје и друге бриге. Лажни налози на друштвеним мрежама представљају велики проблем на интернету, а са увођењем АИ цхат робота, интернет преваре би постале лакше изводљиве. Ширење лажних информација је још једна брига, посебно када ЦхатГПТ чини да чак и погрешни одговори звуче убедљиво исправно.
Брзина којом ЦхатГПТ може да произведе одговоре који нису увек тачни већ је изазвала проблеме за Стацк Екцханге, веб локацију на којој корисници могу да постављају питања и добијају одговоре.
Убрзо након објављивања, одговори од стране ЦхатГПТ-а су забрањени са сајта због тога што су велики број њих били погрешни. Без довољно људских добровољаца да преброде заостале нерешене ствари, било би немогуће одржати висок ниво квалитета одговора, што би нанело штету веб локацији.
5. ОпенАИ има сву моћ
Уз велику моћ долази и велика одговорност, а ОпенАИ има велику моћ. То је једна од првих компанија са вештачком интелигенцијом која је заиста уздрмала свет не једним, већ више АИ модела, укључујући Далл-Е 2, ГПТ-3, а сада и ЦхатГПТ.
ОпенАИ бира који подаци се користе за обуку ЦхатГПТ-а и како се носи са негативним последицама. Без обзира да ли се слажемо са методама или не, она ће наставити да развија ову технологију у складу са сопственим циљевима.
Иако ОпенАИ сматра безбедност високим приоритетом, много тога не знамо о томе како су модели креирани. Без обзира да ли мислите да код треба да буде отворен код, или се слажете да треба да задржи његове делове у тајности, не можемо много да урадимо по том питању.
На крају крајева, све што можемо да урадимо је да верујемо да ће ОпенАИ истраживати, развијати и користити ЦхатГПТ одговорно. Алтернативно, можемо се залагати за то да више људи каже у ком правцу АИ треба да иде, делећи моћ АИ са људима који ће је користити.
Ако вас занима шта је још ОпенАИ развио, погледајте наше чланке о томе како користити Далл-Е 2 и како се користи ГПТ-3 .
Рјешавање највећих проблема АИ
Постоји много разлога за узбуђење са ЦхатГПТ, најновијим развојем ОпенАИ-а. Али поред његове непосредне употребе, постоје неки озбиљни проблеми које вреди разумети.
како укључити мац мини
ОпенАИ признаје да ЦхатГПТ може произвести штетне и пристрасне одговоре, а да не спомињемо његову способност мешања чињеница са фикцијом. Са тако новом технологијом, тешко је предвидети који ће се други проблеми појавити. Дакле, до тада уживајте у истраживању ЦхатГПТ-а и пазите да не верујете у све што пише.