Home-theater-designers
Вештачка интелигенција (АИ) ће трансформисати читаве сегменте нашег друштва хтели ми то или не, а то укључује и Ворлд Виде Веб.
Са софтвером као што је ЦхатГПТ који је доступан свима са интернет конекцијом, постаје све теже одвојити садржај који генерише вештачка интелигенција, од оног који ствара људско биће. Добро је што имамо детекторе АИ садржаја, зар не?
МАКЕУСЕОФ ВИДЕО ДАНА ПОМЕРИТЕ ДА БИСТЕ НАСТАВИЛИ СА САДРЖАЈЕМ
Да ли АИ детектори садржаја раде?
АИ детектори садржаја су специјализовани алати који одређују да ли је нешто написао компјутерски програм или човек. Ако само прогуглате речи „детектор АИ садржаја“, видећете има десетине детектора тамо, сви тврде да могу поуздано разликовати људски и нељудски текст.
Начин на који они функционишу је прилично једноставан: налепите комад писања, а алатка вам говори да ли га је генерисала АИ или не. У више техничким терминима, користећи комбинацију техника обраде природног језика и алгоритама машинског учења, детектори АИ садржаја траже обрасце и предвидљивост и на основу тога упућују позиве.
Ово звучи сјајно на папиру, али ако сте икада користили алатку за откривање вештачке интелигенције, добро знате да су, благо речено, погодни и промашени. Чешће него не, детектују садржај који је написао човек као вештачку интелигенцију или текст који су креирала људска бића као АИ генерисан. У ствари, неки су срамотно лоши у ономе што би требало да раде.
Колико су прецизни детектори АИ садржаја?
Ако сте у Сједињеним Државама, први резултат Гоогле претраге за „детектор АИ садржаја“ је вритер.цом (раније познат као Кордоба; ово је платформа за АИ садржај која такође има свој детектор). Али када налепите део ове насумичне Ассоциатед Пресс чланак у алатку, тврди да постоји велика шанса да га је генерисала вештачка интелигенција.
Дакле, вритер.цом је погрешно схватио.
Да будемо поштени, други детектори АИ садржаја једва да су бољи. Не само да производе лажне позитивне резултате, већ такође означавају садржај АИ као људски. Чак и када то не ураде, мања подешавања текста генерисаног вештачком интелигенцијом су довољна да прођу са сјајним бојама.
У фебруару 2023. године, предавач Универзитета у Вулонгонгу Армин Алимардани и ванредни професор на УНСВ Сиднеи Емма А. Јане тестирали су бројне популарне детекторе АИ садржаја, утврдивши да ниједан од њих није поуздан. У њиховој анализи, која је објављена у Разговор , Алимардани и Џејн су закључили да ће ова АИ „трка у наоружању“ између текстуалних генератора и детектора представљати значајан изазов у будућности, посебно за просветне раднике.
Али нису само васпитачи и наставници ти који имају разлога за забринутост: сви имају. Како текст генерисан од вештачке интелигенције постаје свеприсутан, будући да је у стању да разликује шта је „стварно“ и шта није, тј. заправо уочавање када нешто напише АИ , постаће теже. Ово ће имати огроман утицај на практично све индустрије и области друштва, чак и на личне односе.
Импликације вештачке интелигенције на сајбер безбедност и приватност
Чињеница да не постоје поуздани механизми да се утврди да ли је нешто креирано софтвером или људским бићем има озбиљне импликације на сајбер безбедност и приватност.
Актери претњи су већ користећи ЦхатГПТ за писање малвера , генеришите е-поруке за крађу идентитета, пишите нежељену пошту, креирајте сајтове за преваре и још много тога. И док постоје начини за одбрану од тога, свакако је забрињавајуће што не постоји софтвер који може поуздано разликовати органски и бот садржај.
Лажне вести су такође већ велики проблем. Са генеративном вештачком интелигенцијом на слици, агенти за дезинформације су у стању да повећају своје операције на начин без преседана. У међувремену, обична особа нема начина да зна да ли је нешто што чита на мрежи креирао софтвер или људско биће.
Приватност је сасвим друга ствар. Узмите ЦхатГПТ, на пример. Било је хранио више од 300 милијарди речи пре његовог лансирања. Овај садржај је уклоњен из књига, постова на блогу и форуму, чланака и друштвених медија. Прикупљено је без ичије сагласности, уз наизглед потпуно непоштовање приватности и заштите ауторских права.
Затим постоји и питање лажних позитивних резултата. Ако је садржај грешком означен као генерисан вештачком интелигенцијом, зар то не би могло да доведе до цензуре, што је ионако велики проблем? Да не помињемо штету коју оптужују за коришћење текста креираног од вештачке интелигенције, која би могла да нанесе нечију репутацију, како на мрежи, тако иу стварном животу.
Ако заиста постоји трка у наоружању између генеративне АИ и детектора садржаја, први побеђује. Што је још горе, изгледа да нема решења. Сви имамо наше полупечене производе који чак ни пола времена не раде, или се могу врло лако преварити.
Како открити АИ садржај: потенцијална решења
То што се чини да тренутно немамо праве одговоре на овај проблем не значи да их нећемо имати у будућности. У ствари, већ постоји неколико озбиљних предлога који би могли да функционишу. Водени жиг је један.
Када су у питању АИ и дубоки језички модели, водени жиг се односи на уграђивање својеврсног тајног кода у текст који је генерисао АИ (нпр. образац речи, стил интерпункције). Такав водени жиг би био невидљив голим оком, а самим тим и немогуће уклонити, али би специјализовани софтвер могао да га открије.
У ствари, још 2022. Универзитет Мериленд истраживачи су развили нову методу воденог жига за вештачке неуронске мреже. Водећи истраживач Том Голдштајн рекао је тада да је његов тим успео да 'математички докаже' да њихов водени жиг не може бити потпуно уклоњен.
За сада, оно што обичан човек може да уради јесте да се ослони на своје инстинкте и здрав разум. Ако нешто није у реду са садржајем који читате – ако се чини неприродним, понављајућим, немаштовитим, баналним – можда га је креирао софтвер. Наравно, требало би да проверите и све информације које видите на мрежи, још једном проверите извор и клоните се сумњивих веб локација.
синхронизација је искључена у апликацији за е -пошту
Револуција вештачке интелигенције је у току
Неки тврде да је пета индустријска револуција већ ту, јер вештачка интелигенција заузима централно место у ономе што се описује као конвергенција дигиталног и физичког. Било да је то заиста тако или не, све што можемо је да се прилагодимо.
Добра вест је да се индустрија сајбер безбедности прилагођава овој новој стварности и примењује нове стратегије одбране са вештачком интелигенцијом и машинским учењем на челу.