imagazin arrow2-left arrow2-right arrow2-top arrow-up arrow-down arrow-left arrow-right cart close dossiers education fb instagram menu notification oander rss rss-footer search service shuffle speech-bubble star store stores tests twitter youtube

Kezünkben az iPhone XS és iPhone XS Max!

Nézd meg és olvasd el első benyomásainkat!

Safe-place MI: lassan nem lesz több vita az interneten?


Egy csapat kutató olyan gép tanuláson alapuló algoritmust fejlesztett ki, amelyek még azelőtt detektálják az intő jeleket, mielőtt egy vita elmérgesedne. Kérdés, hogy mennyire jó az az emberiségnek, ha buborékban éli le az életét…

Valószínűleg mindannyian keveredtünk már vérre menő vitába az interneten. Legtöbben nem vagyunk már ma született bárányok az online térben, így elég jól kezelni tudjuk ezeket a helyezteket és nem különösebben vesszük magunkra, ha valaki lehülyéz. Különösen igaz ez a milleniálokra, akik már ezt a digitáls-westernhangulatot szívták magukba az anyatejjel.

Ennek ellenére nem szabad figyelmen kívül hagyni a tömeg erejét. A cyberbullying jelensége igenis létezik, és bizonyos esetekben súlyos depresszióhoz, öngyilkossághoz is vezethet. Míg az ember egy-egy vitahelyzetet relatív könnyen le tud kezelni, addig egy névtelen, arctalan, megfoghatatlan, ám verbálisan annál agresszívabb tömeget már kevésbé.

Emlékszem, nekem is komolyan tanulnom kellett a kommentek kezelését, amikor először szembesültem vele, hogy bizony a cikkeimhez olykor sokan hozzászólnak, és nem mindenki feltétlen a Pulitzer-díjat szeretné épp nekem ítélni. Ennek nagyon egyszerű pszichológiai okai vannak: egészséges esetben nem utáljuk magunkat. Ha viszont az online térben „tömegek“ kiáltják egyszerre, hogy jobb lett volna meg se születnünk, akkor az azért hatással tud lenni az emberre, még akkor is, ha egyébként környezetétől megkapja a kellő szeretetet.

Én, amikor csúnyákat írtok :'(

Ugyanakkor nem csak a bárányt, de a farkast is könnyű megérteni ebben a történetben. Az embert mindenféle, sokszor csatornázatlan, feszültség éri nap mint nap. Az internetes csatározások során pedig látszólag tét nélkül le lehet ezeket vezetni. Nem kell figyelemmel lennünk arra, hogy megbántunk valakit, mert nem embereket, hanem online entitásokat látunk. Gamifikálódik az egész. Sokkal könnyebb elküldeni mucikaHUN13-at a búsba online, mint Kis Balázst élőben. Az internetes agresszorok tehát nem feltétlen pszichopata állatok, egyszerűen csak nem mindig tudnak az online accountok mögé élő embereket látni.

Amerikai katonai drónpilóták számoltak be hasonló jelenségről. Ott ülnek egy sötét teremben valahol mélyen a föld alatt egy biztonságos pincében, előttük monitoron pöttyök és épületek, kezükben az elsütőgomb. Pont mint egy játékban. Sokkal egyszerűbb úgy meghúzni a ravaszt, hogy csak pár pontot tűnik el a képről, mint hallani a kiáltásokat és látni a vért. Kicsit így működnek az internetes viták is.

Nem annyira ördögtől való dolog tehát, hogy bizonyos oldalakon, közösségimédia-platformokon moderálják a beszélgetéseket. Nem a szólás és véleményszabadság korlátozása miatt, hanem mert egyszerűen ezek az internetes diskurzusok könnyen sokkal durvábbá fajulnak, mint élőben, és mivel nem tudhatjuk, hogy épp egy érzelmi válságát élő 12 éves tinit küldtek el melegebb éghajlatra, vagy egy érzelmileg stabil, vitákon edződött felnőttet. Egyszerűbb kitörölni a túl agresszív megnyilvánulásokat.

Egy szó mint száz, védhető álláspont a netes moderáció.

Ugyanakkor az is jogos, hogy visszaélések tömkelegére ad lehetőséget maga a műfaj. Mert a moderációt emberek végzik. Az emberek meg hát… na, emberek. Vannak előítéleteik, benyomásaik, véleményük és még ha a professzionális moderátorok ki is vannak képezve arra, hogy ezeket magukban tartsák, elkerülhetetlen, hogy legyenek visszaélések, véleménytorzítások. Innen nézve pedig tényleg lehet, hogy egészségesebb hagyni az egész moderációt a francba, senkinek nincs szüksége rá, hogy kormányok és vállalatok határozzák szabják meg, mi az, ami elég polkorrekt, szép, jó és virágillatú.

Köztes megoldást jelenthet azonban, ha mint mostanában oly sok mást, ezt is a gépekre bízzuk. Nekik aztán biztosan nincsenek előítéleteik, maximum annyi, amennyit beléjük programozunk. Cserébe fáradhatatlanok, mindig objektívek és villám gyorsan reagálnak. De vajon hogy lehet egy ilyen nyelvileg komplex jelenséget lefordítani az ő nyelvükre?

Ez a kérdés foglalkoztatta a Cornell University, a Google Jigsaw és a Wikimedia kutatóit is, akik úgy tűnik, találtak egy reménykeltő megoldást. A három intézmény összeállt egy nagy csapattá, hogy megalkossák a szoftvert, amely írott szövegek elemzéséből képes megállapítani, ha egy vita kezdene túlságosan elmérgesedni.

Mindehhez a tökéletes gyakorlóterpet, azaz a Wikipédia vitalapját választották teszt gyanánt. Itt tanult meg az algoritmus különbséget tenni az építő jellegű és a romboló diskurzusok közt. A szoftver olyan kifejezések után kutat, amelyekről korábban már igazolták, hogy indikálják a vita hangulatát. Például a „köszönöm szépen“, a „véleményem szerint“, az „úgy gondolom“ ,stb. mind egy egészséges vitáról tanúskodnak, ahol a felek jó eséllyel hajlandóak belátni ha tévedtek, és ritkán kezdenek el teli torokból anyázni. Ugyanakkor az ismétlődő, direkt kérdések („Miért nem említetted?“, „Miért nem néztél utána?“, stb.), a E/2 használat („te nekem ne mondd meg“, „neked aztán hiába pofázok“, stb.) főleg, ha már az első válaszban benne vannak elég jól jelzik, hogy itt bizony vihar lesz a biliben.

A kutatók a valószínűségek meghatározásához úgynevezett logisztikus regressziót alkalmaznak. A statisztikai módszer lényege, hogy minél pontosabb becsléseket adjon a két lehetséges kimenetelű forgatókönyv várható kifutásáról, az ezeket befolyásoló paraméterek elemezése által. Magyarul megfelelően kezelve a fent említett verbális jelölőket elég jól megmondható, hogy egy vita vajon építő jellegű vagy mérgező. Mindez kiegészítve a Google-féle Perspective API-jal, ami egy olyan mesterséges intelligencián alapuló eszköz, ami képes megmondani bármilyen adott szövegről, hogy az mennyire barátságos, semleges, vagy agresszív – elég hatékony kombinációt alkot.

Ezt megerősítik a kutatás eredményei is. Azokat a beszélgetéséket, amelyek bár barátságosan indultak, de romboló vitába torkollottak például 65%-os valószínűséggel képesek voltak detektálni. Figyelembe véve, hogy ugyanezt a becslést az emberek 72%-os pontossággal tudták elérni, máris egész közel járunk, hogy moderátorok helyett algoritmusok végezzék a piszkos munkát. Ha pedig sikerül fejleszteni a felismerési arányon, az internet tényleg egy fokkal békésebb hely lehet.

Elméletben legalábbis. Az a kérdés ugyanis, hogy mi számít agresszívnek szintén meglehetősen szubjektív, így megint ott tartunk ahol kiindultunk. Ha például a Facebook úgy gondolja, hogy vallásról nem szabad vitatkozni, akkor egyszerűen csak úgy állítja be az algoritmust, hogy szűrjön minden ilyen beszélgetést. A véleményszabadság tehát továbbra sincs maradéktalanul biztonságban.

Arról nem beszélve, hogy nem feltétlen egészséges egy nagy safe-space alakítani az internetet, aminek egyik legnagyobb előnye pont az, hogy meglehetősen szabad lehet rajta mindenki. Főleg, hogy a mostani generációk szinte már itt élik le az életük felét. Ha egy jó nagy steril buborékot faragunk belőle, akkor pont az élet, sokszor kihívásokkal teli helyzeteitől vágjuk el őket, amelyek átéléséhez szükség van az egészséges jellemfejlődéshez. Nem normális az se, ha sírva jön haza a 16 éves gyerek a gimiből, mert lehülyézte az osztálytársa…

Mint minden másban, ebben is tehát az egészséges egyensúlyra érdemes és kell törekedni. Jó tudni viszont, hogy a létezik már a technológia, amely ilyen komplex emberi interakciókat is elég precízen le tud kezelni. Mondjuk a Google-féle Duplex óta már annyira meg sem lepődöm az ilyeneken…

Forrás: The Verge

BTS

Ezt már olvastad?

A Sirinek ez is az egyik baja, hogy mindenki a célközönség. Valószínűleg hatékonyabb lenne, ha először jól működő modulokat hoznának létre egy-egy funkcióra szabva.

Miért nem ismeri anyanyelvünket az Apple virtuális asszisztense? - Klikk ide!