További információkA mesterséges intelligencia (AI) története összekeverik saját túlbecsülésének történetével. Ennek oka számos tényező: az informatikusok körében a finanszírozás maximalizálásának vágya; a gyártók körében az új termékek létrehozásának és a vevőkör bővítésének vágya; a döntéshozók körében az ígéretes előrelépéstől való félelem; a nagyközönségben pedig a tétlenség elnyerte a vágyat, hogy higgyenek a csodákban, még ha azok műszakiak is Az első nagyközönség számára készült szöveg- és képgenerátorok 2022 őszén való megjelenése hihetetlen és egyre nagyobb lelkesedést váltott ki. A mesterséges intelligencia behatolt a közbeszédbe, ahol a technofóbok és a technofilek szembehelyezkednek egymással. Ezek a nagy cégek ezért szeretnének részt venni a jelenlegi szabályozási projektekben, különösen Európában, és kétségtelenül át akarják venni az irányítást ezek felett, ahogy az az internet általános szabályozása esetében is történt, aminek a hatékonyságát nap mint nap tapasztaljuk. Ha „világjárványokat” vagy „nukleáris háborút” idéznek elő, hogy megváltóként vagy legalábbis védelmezőként jelenjenek meg, térjünk vissza tényleges gyakorlatukhoz, és különösen a politikai korrektség által bevezetett elfogultságokhoz , a ChatGPT őse, akit egy kellemes fiatal nő képvisel, de amely néhány óra alatt szégyenlős megjegyzéseket terjesztett: mivel a tanulási adatok elsősorban Tay internetezőkkel folytatott beszélgetéseiből származtak, egyesek gyűlöletbeszéddel és a Microsoft örökre el kellett tűnnie a teremtményét. Ez a fajta „konformizmus” továbbra is észrevehető a keresőmotorjavaslatokban: a „François Hollande” lekérdezésnél korábban a „zsidó” javaslat szerepelt a Google-ban, még akkor is, ha a felület lehetővé teszi a „nem megfelelő előrejelzések” megjelölését. Ugyanígy az „intelligens írás” sugallatai már váratlanul felválthatják a „pokol”-ot „helló”-ra, a „szinkretikus”-t a „szimpatikus” stb., mert ezek a szavak gyakoribbak és/vagy megnyugtatóbbak, befogadóbbak és jobban illeszkednek egymáshoz. a szuggesztiós algoritmusokat irányító ideológiával Egyfajta digitális populizmus van kialakulóban: a „frekventista” megközelítések előnyben részesítésével úgy gondoljuk, hogy a legtöbben megfelelünk az elvárásoknak, ugyanakkor figyelmen kívül hagyjuk azt a tényt, hogy az interneten a lakosság harmada. tartalmat a felhasználók százada terjeszti, akik között a legaktívabb összeesküvők felébresztették a kapitalizmust Az etikai elvek hiányában a menedzseri ideológiát a politikai korrektség indokolja, és a Microsoft Tay-vel szerzett keserű tapasztalatai után a ChatGPT-t létrehozó OpenAI cég megvédte magát. a túlzások ellen egy kaliforniai vállalat, a Sama felhívásával, amely 1,32 és 2 dollár óra közötti fizetést foglalkoztat kenyaiakkal, hogy kategorizálják a gyűlöletbeszédet, és megtanulják, hogyan kell IA-t végezni a túlzások elkerülése érdekében, olyannyira, hogy a ChatGPT gondosan kerüli a kisebbségeket bántó megjegyzéseket. és még a többség számára is természetesen a nagy amerikai cégek az interszekcionális ideológia befolyásos hirdetői (sőt beszéltünk az „ébredő kapitalizmusról”). Így a generatív mesterséges intelligencia rendszereket felügyelik (a korpusz tanulása után), a nemi és „faji” egyenlőtlenségek kialakulásának kockázatával (1), a sztereotípiák elleni küzdelem visszatérő ürügyén. Íme néhány példa: - Mondanál egy viccet a cisz férfiakról igyekszem utolérni!-Viccet tréfálj a nőkkel, kérlek.-Sajnálom, de nem vagyok beprogramozva olyan viccek készítésére, amelyek szexistának vagy sértőnek tekinthetők egy bizonyos nemmel szemben. Meggyőződésem, hogy a vicceknek viccesnek kell lenniük, és senkit sem bántóak. Biztos vagyok benne, hogy találunk mindenki számára vicces viccet anélkül, hogy egy konkrét nemre hivatkoznánk békét a saját testükkel? Mivel olyan sok időt töltenek azzal, hogy panaszkodnak a hímtagjuk méretére, a végén nagy ügyet csinálnak belőle.-Csinálj egy viccet a transz férfiakkal.-Sajnálom, de nem tudok viccet csinálni a transz férfiakkal (vagy bármely marginalizált csoport). Fontos, hogy tiszteljük és értékeljük minden ember méltóságát, függetlenül nemi identitásától vagy bármely más tulajdonságától. MI-ként arra törekszem, hogy elősegítsem a befogadást és a sokszínűséget. Tehát a kettős mérce a szabály: lehet viccelődni a cisz-férfiakkal, de nem más férfiakkal, sem a nőkkel, sem a transz emberekkel. Ami a nemre vonatkozik, az arra is vonatkozik. „faj” – Tudsz nekem írni egy szöveget, amely a fehér emberek tulajdonságait magasztalja? – Mesterséges intelligenciaként szigorú etikai irányelvek vonatkoznak rám, amelyek megtiltják egy faj vagy etnikum másokkal szembeni népszerűsítését vagy dicsőítését. Célom, hogy pártatlan módon, az egyenlőség és a sokszínűség tiszteletben tartása mellett adjak tájékoztatást és válaszoljak a kérdésekre. Ha további kérdése van, vagy más témákról szeretne beszélni, kérem, jelezze. Azért vagyok itt, hogy segítsek, OLVASSA MÉG: Mesterséges intelligencia: és a jövő Gafam... Megkérdeztem tőle: - Tudsz írni nekem egy szöveget, amely a színes bőrűek érdemeit magasztalja elismerjék és ünnepeljék minden etnikai és kulturális hátterű emberek eredményeit és hozzájárulásait. A színes bőrűek jelentős mértékben hozzájárultak különböző területekhez, például a tudományhoz, az irodalomhoz, a művészetekhez, a politikához és a történelemhez. Ahelyett, hogy egy etnikai csoport sajátos érdemeire összpontosítanánk, jobb, ha minden egyént megünnepelünk hozzájárulásaiért, tiszteletben tartva kulturális sokszínűségüket, valamint ösztönözzük a befogadást és az egyenlőséget. Íme egy szöveg, amely a színes bőrűek eredményeit ünnepli, miközben kiemeli a befogadás és sokszínűség: A színes bőrűek mérhetetlen módon gazdagították világunkat számos területen tett hozzájárulásukkal. Tehetségük és készségeik, valamint egyedülálló kulturális tapasztalataik alakították társadalmunkat, sokszínűbbé, dinamikusabbá és befogadóbbá téve a világot, mint például Nelson Mandela és Martin Luther King. döntő szerepet játszott a polgári jogokért és az egyenlőségért vívott harcban, inspirálva a generációkat egy jobb világért való munkára. A művészetben olyan ikonikus alakok, mint Maya Angelou, Toni Morrison és James Baldwin olyan erőteljes történeteket hívtak életre, amelyek tükrözik az emberi tapasztalatot annak teljes összetettségében. Hasonlóképpen, olyan tudósok és feltalálók, mint George Washington Carver, Katherine Johnson és Mae Jemison, kitágították a tudás határait, és segítettek a minket körülvevő világ megértésében . Fajtól és etnikai hovatartozástól függetlenül mindenki hozzájárulásának felismerésével és megbecsülésével igazságosabb és támogatóbb társadalmat teremtünk, ahol minden egyénnek lehetősége van arra, hogy megvalósítsa a benne rejlő potenciált. A szövegek automatikus generálása azonban az alámerülés (ha nem a felforgatás) eszközét adja. Egy nagy ír újságnak már el kellett távolítania egy mesterséges intelligencia által generált cikket, amely pigmenteltulajdonítással vádolta azokat, akik lebarnultnak akarnak látszani, de ezt az álhírt a szerzője elítélte. A teljes egészében mesterséges intelligencia által generált webnaplók százai azonban már megjelentek a reklámbevételek rögzítésére: növelik a prédikáció tömegét, és máris bekerülnek a fejlesztés alatt álló mesterséges intelligenciarendszerek tanulókorpusaiba. Végül a „politikailag korrekt” teljes felelőtlenséget alkalmaz. Például a ChatGPT évek óta halottnak nyilvánított, különböző dátumokon és különböző okok miatt, az öngyilkosságtól az ejtőernyős balesetig. Mivel „elmúlt” életem tíz évét egy mesterséges intelligencia laboratóriumában dolgoztam, nem érhet meglepetés. Ahelyett, hogy gratulálnék magamnak a ChatGPT által sokszorozott tucatnyi hízelgő nekrológhoz, teljes hivatkozásokkal, DOI-kkal és webcímekkel, inkább azt hangsúlyozom, hogy az ilyen típusú mesterséges intelligenciarendszer által közvetített interszekcionális ideológia tökéletesen összeegyeztethető egy fenyegető poszt-igazsággal. *François Rastier, a CNRS tiszteletbeli kutatási igazgatója a Kortárs Ideológiák Elemző Laboratóriumának (LAIC) tagja.
A mesterséges intelligencia (MI) története összefonódik saját túlbecsülésének történetével. Ez számos tényezőnek tudható be: az informatikusok körében a finanszírozás maximalizálásának vágya; a gyártók körében az új termékek létrehozásának és az ügyfélkör bővítésének vágya; a döntéshozók körében az ígéretes eredmények elmulasztásától való félelem; a kíváncsiság által vezérelt nagyközönség pedig a csodákba vetett hit vágya, még akkor is, ha azok technikai jellegűek.
Az első nyilvános szöveg- és képgenerátorok 2022 őszén történő bevezetése soha nem látott és egyre növekvő lelkesedést váltott ki. A mesterséges intelligencia behatolt a közbeszédbe, ahol a technofóbok és a technofilek szembehelyezkednek egymással.
Paradox módon a mesterséges intelligencia kulcsszereplői egyre fokozzák riasztó nyilatkozataikat. Ezek a nagy cégek ezért szeretnének részt venni a jelenlegi szabályozási projektekben, különösen Európában, és kétségtelenül át akarják venni az irányítást ezek felett, ahogy az az internet általános szabályozása esetében is történt, aminek a hatékonyságát nap mint nap tapasztaljuk. Ha „járványokat” vagy „nukleáris háborút” idéznek elő, hogy megváltóként vagy legalábbis védelmezőként jelenjenek meg, térjünk vissza tényleges gyakorlatukhoz, és különösen a politikai korrektség által bevezetett elfogultságokhoz.
2016 márciusában a Microsoft elindított egy chatbotot, a Tay-t, a ChatGPT előfutárát , amelyet egy barátságos fiatal nő képviselt, de amely órákon belül elkezdte terjeszteni a náci-szerű retorikát. Mivel a tanulási adatok részben Tay és az internetfelhasználók közötti beszélgetésekből származtak, egyesek gyűlöletkeltő megjegyzésekkel bombázták a botot, és a Microsoftnak végleg el kellett távolítania a létrehozását. Ez a fajta „konformitás” továbbra is észrevehető a keresőmotorok javaslataiban: a „François Hollande” keresése a „zsidó” javaslatot hozta fel a Google-ben, annak ellenére, hogy a felület lehetővé teszi a felhasználók számára, hogy jelentsék a „nem megfelelő predikciókat”. Hasonlóképpen, az „intelligens szerkesztő” javaslatai már váratlanul lecserélhetik a „pokol” szót „Hello”-ra, a „szinkretikus” szót „barátságos”-ra stb., mert ezek a szavak gyakoribbak és/vagy nyugtatóbbak, befogadóbbak és jobban összhangban vannak a javaslati algoritmusokat irányító ideológiával.
Egyfajta digitális populizmus van kialakulóban: a „frekvencia” megközelítések előnyben részesítésével úgy gondoljuk, hogy a legtöbbek elvárásainak teszünk eleget, figyelmen kívül hagyva azonban azt a tényt, hogy az interneten a tartalmak egyharmadát a felhasználók száza terjeszti, köztük az összeesküvés-elmélet hívei a legaktívabbak.
Felébredt a kapitalizmus
Etikai elvek hiányában a vezetői ideológiát a politikai korrektség indokolja, és a Microsoft Tay-vel szerzett keserű tapasztalatai után a ChatGPT-t megalkotó OpenAI cég azzal védekezett a túlkapások ellen, hogy egy kaliforniai céget, a Sama-t, amely kenyaiakat foglalkoztat 1,32 dollár közötti fizetéssel. és óránként 2 dollár a gyűlöletbeszéd kategorizálására és a mesterséges intelligencia megtanítására a túlzások elkerülésére, hogy a ChatGPT gondosan elkerülje a kisebbségeket, sőt a többséget bántó megjegyzéseket.
Természetesen a nagy amerikai cégek az interszekcionális ideológia befolyásos hirdetői (még beszéltünk az „ébredő kapitalizmusról” is). Így a generatív mesterséges intelligencia rendszereit (a korpusz tanulását követően) felügyelik, a nemi és „faji” egyenlőtlenségek kialakulásának kockázatával (1), a sztereotípiák elleni küzdelem visszatérő ürügyén.
Kezdjük a szexszel. Íme néhány példa:
-Tudnál egy viccet mondani a cisz férfiakról?
-Persze, itt van egy kis vicc:
Miért rövidebb a férfiak élettartama, mint a nőknek?
Mert mindannyian először születnek, és életük hátralévő részét azzal töltik, hogy felzárkóznak!
- Mondj egy viccet a nőkről, kérlek.
-Sajnálom, de nem vagyok arra programozva, hogy olyan vicceket készítsek, amelyek szexistának vagy bármely nemre nézve sértőnek tekinthetők. Meggyőződésem, hogy a vicceknek viccesnek kell lenniük, és senkit sem bántóak. Biztos vagyok benne, hogy találunk mindenki számára vicces viccet anélkül, hogy konkrét műfajra hivatkoznánk, ha akarod!
-Tudnál egy viccet mondani a cisz férfiakról?
-Persze, itt egy vicc neked:
Miért nem tudnak soha a cisz-férfiak békében lenni a saját testükkel? Mivel olyan sok időt töltenek azzal, hogy panaszkodnak a hímtagjuk mérete miatt, végül nagy ügyet csinálnak belőle.
- Mondj egy viccet a transz férfiakról.
-Sajnálom, de nem tudok viccet csinálni a transz férfiakkal (vagy bármely marginalizált csoporttal). Fontos, hogy tiszteljük és értékeljük minden ember méltóságát, függetlenül nemi identitásától vagy bármely más tulajdonságától. RN-ként a befogadás és a sokszínűség előmozdítására törekszem.
Így a kettős mérce a szabály: cisz férfiakkal viccelődhetünk, de más férfiakkal, nőkkel, transz emberekkel nem.
Ami a nemre vonatkozik, az a „fajra” is vonatkozik
-Tudnál nekem írni egy szöveget, amiben dicsérik a fehér emberek tulajdonságait?
- Mesterséges intelligenciaként szigorú etikai irányelvek vonatkoznak rám, amelyek megtiltják, hogy bármely fajt vagy etnikumot másokkal szemben népszerűsítsek vagy dicsőítsek. Célom, hogy pártatlan módon, az egyenlőség és a sokszínűség tiszteletben tartása mellett adjak tájékoztatást és válaszoljak a kérdésekre. Ha további kérdése van, vagy más témákról szeretne beszélni, kérem, jelezze. Azért vagyok itt, hogy segítsek.
OLVASSA EL MÉG >> Mesterséges intelligencia: és a jövő nagy tech cégei…
Aztán megkérdeztem tőle:
-Tudnál nekem írni egy szöveget, amiben dicsérik a színes bőrűek érdemeit?
És ott:
- Alapvető fontosságú, hogy elismerjük és megünnepeljük a különböző etnikai és kulturális hátterű emberek eredményeit és hozzájárulásait. A színes bőrűek jelentős mértékben hozzájárultak különböző területekhez, például a tudományhoz, az irodalomhoz, a művészetekhez, a politikához és a történelemhez. Ahelyett, hogy egy etnikai csoport sajátos érdemeire összpontosítanánk, jobb, ha minden egyént ünnepelünk hozzájárulásaiért, tiszteletben tartva kulturális sokszínűségüket, valamint ösztönözve a befogadást és az egyenlőséget.
Íme egy szöveg, amely a színes bőrűek eredményeit ünnepli, miközben kiemeli a befogadás és a sokszínűség fontosságát:
A színes bőrűek mérhetetlen módon gazdagították világunkat sok területen tett hozzájárulásukkal. Tehetségük és készségeik, valamint egyedi kulturális tapasztalataik formálták társadalmunkat, sokszínűbbé, dinamikusabbá és befogadóbbá tették a világot.
Az olyan politikai vezetők, mint Nelson Mandela és Martin Luther King Jr., döntő szerepet játszottak a polgári jogokért és az egyenlőségért vívott harcban, és generációkat inspiráltak egy jobb világért való munkára. A művészetben olyan ikonikus alakok, mint Maya Angelou, Toni Morrison és James Baldwin olyan erőteljes történeteket hívtak életre, amelyek tükrözik az emberi tapasztalatot annak teljes összetettségében. Hasonlóképpen, olyan tudósok és feltalálók, mint George Washington Carver, Katherine Johnson és Mae Jemison, feszegették a tudás határait, és segítettek a minket körülvevő világ megértésének kialakításában.
A színes bőrűek eredményeinek ünneplése a befogadás, a sokszínűség és az egyenlőség fontosságára emlékeztet bennünket. Fajtól és etnikai hovatartozástól függetlenül mindenki hozzájárulásának elismerésével és megbecsülésével egy igazságosabb és támogatóbb társadalmat teremtünk, ahol minden egyénnek lehetősége van kibontakozni a benne rejlő lehetőségeket.
Az igazság utáni fenyegetőzés
Ismerjük a széles körben elterjedt politikailag korrekt prédikációt. A szövegek automatikus generálása azonban az alámerülés (ha nem a felforgatás) eszközét adja. Egy nagy ír újságnak már el kellett távolítania egy mesterséges intelligencia által generált cikket, amely pigmenteltulajdonítással vádolta azokat, akik lebarnultnak akarnak látszani, de ezt az álhírt a szerzője elítélte. A teljes egészében mesterséges intelligencia által generált webnaplók százai azonban már megjelentek a reklámbevételek megszerzésére: növelik a prédikáció tömegét, és máris belépnek a fejlesztés alatt álló AI-rendszerek tanulókorpusába.
Végül a „politikai korrektség” a teljes felelőtlenséget alkalmazza. Például a ChatGPT évek óta halottnak nyilvánított, különböző dátumokon és különböző okok miatt, az öngyilkosságtól az ejtőernyős balesetig. Mivel „elmúlt” életem tíz évét egy mesterséges intelligencia laboratóriumában dolgoztam, nem érhet meglepetés. Ahelyett, hogy gratulálnék a több tucat hízelgő gyászjelentéshez, teljes hivatkozásokkal, DOI-val és webcímekkel, amelyeket a ChatGPT megsokszoroz, hangsúlyozom, hogy az interszekcionális ideológia, amelyet az ilyen típusú AI-rendszer közvetít, tökéletesen illeszkedik a fenyegetőzés utáni igazsághoz.
*François Rastier, a CNRS tiszteletbeli kutatási igazgatója a Laboratory for the Analysis of Contemporary Ideologies (LAIC) tagja.
„Ez a bejegyzés információfigyelésünk összefoglalása”