Home-theater-designers
Са милионима корисника ЦхатГПТ-а, можда ћете се запитати шта ОпенАИ ради са свим својим разговорима. Да ли стално анализира ствари о којима разговарате са ЦхатГПТ-ом?
Одговор на то је да, ЦхатГПТ учи на основу корисничког уноса — али не на начин на који већина људи мисли. Ево детаљног водича који објашњава зашто ЦхатГПТ прати разговоре, како их користи и да ли је ваша безбедност угрожена.
МАКЕУСЕОФ ВИДЕО ДАНА ПОМЕРИТЕ ДА БИСТЕ НАСТАВИЛИ СА САДРЖАЈЕМ
Да ли ЦхатГПТ памти разговоре?
ЦхатГПТ не прихвата упите по номиналној вредности. Користи контекстуалну меморију да запамти и референцира претходне уносе, обезбеђујући релевантне, доследне одговоре.
Узмите доњи разговор као пример. Када смо питали ЦхатГПТ за идеје за рецепте, он је узео у обзир нашу претходну поруку о алергијама на кикирики.
Ево безбедног рецепта за ЦхатГПТ.
Контекстуална меморија такође омогућава АИ да извршава задатке у више корака. Слика испод показује да ЦхатГПТ остаје у карактеру чак и након што му унесе нови упит.
ЦхатГПТ може да запамти десетине упутстава у разговорима. Његов излаз се заправо побољшава у тачности и прецизности како пружате више контекста. Само се побрините да експлицитно објасните своја упутства.
Такође би требало да управљате својим очекивањима јер контекстуална меморија ЦхатГПТ-а још увек има ограничења.
ЦхатГПТ разговори имају ограничен капацитет меморије
Контекстуална меморија је коначна. ЦхатГПТ има ограничене хардверске ресурсе, тако да памти само до одређених тачака тренутних разговора. Платформа заборавља ранија упутства када постигнете њен меморијски капацитет.
У овом разговору, наложили смо ЦхатГПТ-у да игра улогу измишљеног лика по имену Томи.
хоће ли Виндовс 10 поново бити бесплатан
Почео је да одговара на упите као Томие, а не ЦхатГПТ.
Иако је наш захтев успео, ЦхатГПТ је прекинуо карактер након што је примио упит од 1000 речи.
ОпенАИ никада није открио тачна ограничења ЦхатГПТ-а, али гласине кажу да може да обради само 3.000 речи одједном. У нашем експерименту, ЦхатГПТ је покварио рад након само 2.800+ речи.
Можете да поделите своје упите у два скупа од 1500 речи, али ЦхатГПТ вероватно неће задржати сва ваша упутства. Само започните још једно ћаскање. У супротном, мораћете да понављате одређене детаље неколико пута током разговора.
ЦхатГПТ памти само уносе релевантне за тему
ЦхатГПТ користи контекстуалну меморију да побољша тачност излаза. Не задржава информације само ради њиховог прикупљања. Платформа скоро аутоматски заборавља небитне детаље, чак и ако сте далеко од ограничења токена.
На слици испод, покушавамо да збунимо АИ са разним некохерентним, ирелевантним упутствима.
Задржали смо наше комбиноване уносе испод 100 речи, али ЦхатГПТ је и даље заборавио наше прво упутство. Брзо је сломио карактер.
У међувремену, ЦхатГПТ је наставио да игра улоге током овог разговора јер смо постављали само питања релевантна за тему.
У идеалном случају, сваки дијалог мора да прати једну тему да би се одржао тачан, релевантан исход. И даље можете уносити неколико инструкција истовремено. Само се уверите да су у складу са општом темом, иначе ће ЦхатГПТ можда испустити упутства која сматра неважним.
Инструкције за обуку Надјачајте кориснички унос
ЦхатГПТ ће увек дати приоритет унапред одређеним упутствима у односу на унос који генерише корисник. Зауставља недозвољене активности кроз ограничења. Платформа одбија сваки упит који сматра опасним или штетним за друге.
Узмите захтеве за играње улога као примере. Иако они поништавају одређена ограничења језика и фраза, не можете их користити за вршење недозвољених активности.
Наравно, нису сва ограничења разумна. Ако строге смернице отежавају извршавање одређених задатака, наставите да преписујете своје упите. Избор речи и тон у великој мери утичу на резултате. Можете добити инспирацију од већине ефикасна, детаљна упутства на ГитХуб-у .
Како ОпенАИ проучава корисничке разговоре?
Контекстуална меморија се примењује само на ваш тренутни разговор. ЦхатГПТ архитектура без државности третира разговоре као независне инстанце; не може референцирати информације из претходних. Покретање нових ћаскања увек ресетује стање модела.
Ово не значи да ЦхатГПТ тренутно избацује корисничке разговоре. Услови коришћења ОпенАИ наводе да компанија прикупља инпуте од потрошачких услуга које нису АПИ као што су ЦхатГПТ и Далл-Е. Можете чак тражити копије историје ћаскања.
Док ЦхатГПТ слободно приступа конверзацијама, ОпенАИ политика приватности забрањује активности које би могле компромитовати кориснике. Тренери могу да користе ваше податке само за истраживање и развој производа.
Програмери траже рупе
ОпенАИ прегледава разговоре у потрази за рупама. Анализира случајеве у којима ЦхатГПТ показује пристрасност података, производи штетне информације или помаже у вршењу недозвољених активности. Етичке смернице платформе се стално обнављају.
На пример, прве верзије ЦхатГПТ је отворено одговорио на питања о кодирању малвера или прављење експлозива. Ови инциденти су учинили да се корисници осећају као ОпенАИ нема контролу над ЦхатГПТ-ом . Да би повратио поверење јавности, обучио је цхатбот да одбије свако питање које би могло бити против његових смерница.
Тренери прикупљају и анализирају податке
ЦхатГПТ користи технике учења под надзором. Иако платформа памти све уносе, не учи од њих у реалном времену. ОпенАИ тренери их прво прикупљају и анализирају. На тај начин се осигурава да ЦхатГПТ никада не апсорбује штетне, штетне информације које прима.
Учење под надзором захтева више времена и енергије него технике без надзора. Међутим, остављање вештачке интелигенције да сам анализира унос већ се показало штетним.
Узмимо Мицрософт Таи као пример—један од пута је машинско учење пошло наопако . Пошто је непрестано анализирао твитове без упутства програмера, злонамерни корисници су га на крају обучили да пљује расистичка, стереотипна мишљења.
Програмери стално пазе на пристрасности
Неколико спољни фактори изазивају пристрасности у АИ . Несвесне предрасуде могу настати због разлика у моделима обуке, грешака скупова података и лоше конструисаних ограничења. Приметићете их у разним АИ апликацијама.
Срећом, ЦхатГПТ никада није показао дискриминаторне или расне предрасуде. Према Нев Иорк Пост извештај. Платформа отвореније пише о либералним него конзервативним темама.
Да би решио ове пристрасности, ОпенАИ је забранио ЦхатГПТ-у да у потпуности пружа политичке увиде. Може да одговори само на опште чињенице.
Модератори прегледају перформансе ЦхатГПТ-а
Корисници могу да дају повратне информације о резултатима ЦхатГПТ-а. Наћи ћете дугмад за палац горе и доле на десној страни сваког одговора. Први указује на позитивну реакцију. Након што притиснете дугме Свиђа ми се или Не свиђа ми се, појавиће се прозор у којем можете послати повратне информације својим речима.
Систем повратних информација је од помоћи. Само дајте ОпенАИ мало времена да прегледа коментаре. Милиони корисника редовно коментаришу ЦхатГПТ — његови програмери вероватно дају приоритет озбиљним случајевима пристрасности и генерисања штетних резултата.
Да ли су ваши ЦхатГПТ разговори безбедни?
Узимајући у обзир политику приватности ОпенАИ-а, можете бити сигурни да ће ваши подаци остати безбедни. ЦхатГПТ користи само разговоре за обуку података. Његови програмери проучавају прикупљене увиде да би побољшали тачност и поузданост излаза, а не да краду личне податке.
Уз то, ниједан систем вештачке интелигенције није савршен. ЦхатГПТ није инхерентно пристрасан, али злонамерни појединци и даље могу да искористе његове рањивости, на пример, грешке скупова података, немарну обуку и безбедносне рупе. Ради ваше заштите, научите да се борите против ових ризика.