2017. május 17., szerda 14:51

A számítógépek megtanulják az előítéleteinket

Értékelés:
(0 szavazat)

Köztudott, hogy az emberek tele vannak előítéletekkel. Egy kutatásból azonban kiderül, hogy az emberi nyelvet az úgynevezett „gépi tanulás” útján megtanuló számítógépek „megöröklik” a nyelvben rejlő sztereotípiákat is.

A gépi tanulás lényege, hogy a számítógép példák alapján önállóan felismer összefüggéseket, illetve szabályszerűségeket, amelyet általánosítva szabályokat alkot. Ezeket alkalmazva pedig új adatokban is fel tudja ismerni a megtanult összefüggéseket.

A Princeton Egyetem informatikusainak kutatásából kiderül, hogy az algoritmus segítségével angol nyelven tanuló számítógépek előítéletes nyelvhasználók. A számítógépek ugyanis az emberi nyelvből vett példák alapján tanulnak. Ebben a kísérletben egy közel 1 billió szóból álló internetes korpuszt használtak. A program a szavak egymáshoz való közelsége alapján alkotott kapcsolatot azok jelentése között. Ezt vizsgálva a kutatók meglepő eredményre jutottak: a számítógépek asszociációi pontosan tükrözték az emberi előítéleteket.LinguaMED a szamitogepek megtanuljak az eloiteleteinket

A nőkkel kapcsolatos kifejezéseket például kevésbé társították olyan szavakkal, mint „fizika”, „technológia”, vagy „NASA”; illetve feketék neveit sokkal inkább társították olyan negatív fogalmakhoz, mint „gyilkosság”, illetve „erőszak”.

Amikor a kutatók a nőkre jellemző szavak és a különböző foglalkozások neve közötti összefüggést vizsgálták, arra a meglepő következtetésre jutottak, hogy a szavak közötti kapcsolatok erőssége pontosan visszaadta a nők arányát az adott szakmában.

Természetesen meg kell jegyezni, hogy a kutatás csak az angol nyelvvel dolgozott, így a következtetések csak ezzel kapcsolatban vonhatók le.

A kutatás is bizonyítja, hogy a számítógép a tanulási folyamat során a nyelvünkben kódolt sztereotípiákat nyelvi tényként interpretálja, ugyanakkor a számítógépek nyelvtudása az emberek nyelvhasználata alapján az emberi társadalmat tükrözi.

Az ilyen „előítéletes” algoritmusok sok szempontból hatással vannak az életükre (például Amerikában egy programot használnak annak megítélésére, hogy egy bűnöző mekkora valószínűséggel követ el újra bűncselekményt). Valójában azonban ezeknek az algoritmusoknak a programozásáért felelős emberek azok, akik befolyásolhatják, hogy hogyan hatnak az életünkre ezek a programok.

Forrás: NOVA Next

 

Megjelent: 7548 alkalommal Utoljára frissítve: 2019. április 16., kedd 13:14