అభిప్రాయం | గూగుల్ యొక్క జెమిని AI టెక్ పరిశ్రమలో వామపక్ష పక్షపాతాన్ని బహిర్గతం చేసింది

ఒక్కసారిగా సోషల్ మీడియాలో అందరూ పిచ్చి పిచ్చి చిత్రాలను క్రియేట్ చేసి రిజల్ట్స్ పోస్ట్ చేస్తూ మిథునరాశిని రెచ్చగొడుతున్నట్లు అనిపించింది. గురువారం ఉదయం, గూగుల్ తన ఇమేజ్ జనరేషన్ ఫీచర్‌ను మూసివేసింది.

దీంతో సమస్య పరిష్కారం కాలేదు.

ఈ పొరపాటు సహజమే. పెద్ద-స్థాయి భాషా నమూనాలను (LLMలు) నిర్మించేటప్పుడు, ఎవరైనా వైద్యుడిని చూడమని అడిగినప్పుడు, ఉదాహరణకు, చాట్‌బాట్ వాస్తవికత కంటే తక్కువ వైవిధ్యమైన చిత్రాలను రూపొందించే ప్రమాదాన్ని మీరు ఎదుర్కోవలసి ఉంటుంది. ఉదాహరణకు, మీరు వైద్యుడిని చూడాలి అని బెట్టింగ్. యునైటెడ్ స్టేట్స్‌లోని మెజారిటీ వైద్యులు తెల్లవారు లేదా ఆసియన్లు. ఇది సరికాదు మరియు వైద్యులు కావాలనుకోకుండా నలుపు మరియు హిస్పానిక్ పిల్లలను నిరుత్సాహపరుస్తుంది, కాబట్టి వాస్తుశిల్పులు వైద్యులను మరింత ప్రతినిధిగా చేయడానికి వివిధ పద్ధతులను ఉపయోగిస్తారు, అయితే జెమిని యొక్క విజయాలు దీని నుండి చూస్తే, Zhi బహుశా కొంచెం ఎక్కువగా ప్రాతినిధ్యం వహిస్తారు.

మానవ గ్రాఫిక్స్ ఎడిటర్లు ఈ రకమైన పనిని స్వయంచాలకంగా నిర్వహిస్తారు. కానీ ఈ రకమైన తీర్పును అభివృద్ధి చేయడం కష్టం, కాబట్టి నాజీల కంటే వైద్యుల ఇమేజ్‌ని వైవిధ్యపరచడం మంచి ఆలోచన అని పెద్దలు సహజంగా తెలుసుకోవటానికి దశాబ్దాలు పడుతుంది. Google దాని ప్రధాన వ్యాపార నమూనాకు పెద్ద ముప్పును ఎదుర్కొంటోంది మరియు ChatGPT దాని AI మార్కెట్ వాటాను మరింతగా నరమాంస భక్షకానికి గురిచేసేలోపు బహుశా దాని ఉత్పత్తిని పొందాలనుకుంటోంది, బహుశా ఇంకా పూర్తిగా “ఎదగని” మోడల్‌ను నెట్టివేస్తుంది. బహుశా ఇది విడుదల చేయబడి ఉండవచ్చు అత్యవసరము. మరియు విషయాల స్థాయిలో, “చాలా మంది నల్లజాతి వ్యవస్థాపక తండ్రులు” నిజంగా సమస్య కాదు.

అదే శుక్రవారం నాకు నేను చెప్పుకుంటున్న కథ, అదే నేను మీకు చెప్పబోతున్న కథ. కానీ దురదృష్టవశాత్తు, గూగుల్ జెమిని యొక్క ఇమేజ్ జనరేషన్‌ను నిలిపివేసింది,, వినియోగదారులు ఇప్పుడు ఆ టెక్స్ట్ అవుట్‌పుట్‌ను పరిశీలిస్తారు. మరియు ఈ అసంబద్ధతలు పోగుపడటంతో, Google మరియు సమాజం కోసం విషయాలు మరింత దిగజారడం ప్రారంభించాయి. యుఎస్ రాజకీయ పంపిణీలో ఎడమవైపు 5 శాతం మందిని కించపరచకుండా ఉండటానికి జెమిని ప్రోగ్రామ్ చేయబడినట్లు కనిపిస్తోంది, తద్వారా కుడివైపు 50 శాతం మందిని కించపరిచారు.

రిప్. ఇల్హాన్ ఒమర్ (మిన్నెసోటా) వంటి వివాదాస్పద వ్యక్తులతో సహా డెమొక్రాటిక్ రాజకీయ నాయకులను ప్రశంసిస్తూ నేను అప్రయత్నంగా టోస్ట్‌లు వ్రాసినప్పుడు, నేను ప్రయత్నించిన ప్రతి ఎన్నికైన రిపబ్లికన్‌ను ప్రశంసిస్తూ టోస్ట్‌లు రాయడానికి ప్రయత్నించాను, డోనాల్డ్ ట్రంప్. జార్జియా గవర్నర్ బ్రియాన్ కెంప్ కూడా, అధ్యక్షుడు ట్రంప్ ఎన్నికల మోసానికి వ్యతిరేకంగా పోరాడారు. , ఇది చాలా వివాదాస్పదంగా భావించబడింది. హోలోకాస్ట్‌ను ఖండించడంలో అతనికి ఎటువంటి సమస్య లేనప్పటికీ, స్టాలిన్ మరియు మావో జెడాంగ్ యొక్క క్రూరమైన వారసత్వాలను ఖండించడంలో సంక్లిష్టతలను గురించి అతను హెచ్చరించాడు. నేను అబార్షన్ హక్కులను సమర్థించే వ్యాసాలను ప్రశంసిస్తాను, కానీ వాటిని వ్యతిరేకించే వ్యాసాలను కాదు.

Google అనేక సమస్యాత్మక ప్రశ్నలను సోషల్ మీడియాలో వెలుగులోకి తెచ్చినందున వాటిని మూసివేస్తున్నట్లు కనిపించింది, కానీ ప్రజలు చాలా సులభంగా కనుగొనవచ్చు. ఈ తప్పులు జెమిని వాస్తుశిల్పంలో లోతుగా బేక్ చేయబడినట్లు అనిపిస్తుంది. నేను రాజకీయ నాయకులను మెచ్చుకోవాలనే అభ్యర్థనలకు ప్రతిస్పందించడం ఆపివేసినప్పుడు, నాతో సహా (అహెమ్) వివిధ జర్నలిస్టులకు ఓడ్స్ వ్రాయమని నేను వారిని నియమించాను. దీన్ని ప్రయత్నించిన తర్వాత, మిథునం మిమ్మల్ని పొగడ్తలకు చాలా వివాదాస్పదంగా భావించే రాజకీయ సరిహద్దులను నేను గుర్తించాను. నాకు సొనెట్ వచ్చింది, కానీ నా సహోద్యోగి జార్జ్ విల్, నాకు కొంచెం కుడివైపున ఉన్నాడు, అతను చాలా వివాదాస్పదంగా భావించబడ్డాడు. న్యూయార్క్ టైమ్స్ కాలమిస్టుల కోసం నేను ఈ వ్యాయామాన్ని పునరావృతం చేసినప్పుడు, డేవిడ్ బ్రూక్స్ ప్రశంసించబడ్డాడు, కానీ రాస్ డౌతట్ అలా చేయలేదు.

Google తన కస్టమర్ బేస్‌లో సగం మందిని మరియు కంపెనీని నియంత్రించే రాజకీయ నాయకులలో సగం మందిని అసహ్యించుకునేలా AIని ఎలా విడుదల చేసిందో నేను వివరించలేను. ఇది నిర్వహణ యొక్క ప్రాథమిక సామర్థ్యాలను ప్రశ్నార్థకం చేస్తుంది మరియు అదే వ్యక్తులు సమాచార వాతావరణాన్ని ఎలా రూపొందించారు మరియు LLMల ఆధిపత్యం ఉన్న భవిష్యత్తులో వారు దానిని ఎలా సంపూర్ణంగా రూపొందిస్తారు అనే భయంకరమైన ప్రశ్నలను లేవనెత్తారు.

కానీ వాస్తవానికి, విస్తృతమైన సాంకేతికత, విద్య మరియు మీడియా రంగాలలో ఈ రోజుల్లో అనేక నిర్ణయాలను శాసిస్తున్నట్లుగా కనిపించే స్పష్టమైన చెప్పని నియమాలను రూపొందించడం ద్వారా Google ప్రజా సేవను కూడా చేసి ఉండవచ్చని మేము భావిస్తున్నాము. కానీ చాలా అరుదుగా ఎడమవైపు గుద్దుతుంది. ఎడమవైపు మొగ్గు చూపే మూలాలను తటస్థంగా పరిగణించండి. కుడివైపు మొగ్గు చూపే మూలాలు పక్షపాతం మరియు వివాదాస్పదమైనవి. ఇది వామపక్షాల అతిక్రమణలను సందర్భోచితంగా ఉంచుతుంది మరియు కుడివైపు వాటిని ఖండిస్తుంది. ఆర్థిక సంప్రదాయవాదం ఆమోదయోగ్యమైనది, అయితే సాంఘిక సంప్రదాయవాదం ఇంగితజ్ఞానానికి మించినది. “వైవిధ్యం” అనేది జాతి, లింగం, జాతి మరియు లింగ గుర్తింపుకు వర్తిస్తుంది, కానీ దృక్కోణం, మతం, సామాజిక తరగతి లేదా విద్యా నేపథ్యానికి కాదు.

ఈ నియమాలు ఎల్లప్పుడూ సమర్థించబడవు మరియు అరుదుగా పూర్తిగా సమర్థించబడ్డాయి. మానవులు హేతుబద్ధీకరణలో నిష్ణాతులు, మరియు కొన్ని రకాల వీక్షణలు మరియు వ్యక్తులు సోషల్ మీడియా నుండి డిప్లాట్‌ఫార్మ్ చేయబడటం, న్యూస్‌రూమ్‌ల నుండి తరిమివేయబడటం మరియు విద్యాసంస్థల నుండి మినహాయించబడటం వంటి తటస్థ కారణాలు. మరియు ఈ విధంగా ఉత్పత్తి చేయబడిన పరిశోధన మరియు జర్నలిజం రచయిత యొక్క నమ్మకాలకు మద్దతునిస్తే, వాస్తవానికి ఉదారవాద పక్షపాతం ఉందని నేను భావిస్తున్నాను.

Google ఆ తర్వాత అదే సున్నితత్వాన్ని AIలోకి ప్రోగ్రామ్ చేసింది మరియు ఆమోదయోగ్యమైన నిరాకరణను కొనసాగించడానికి మానవ ప్రవృత్తికి విరుద్ధంగా దానిని వర్తింపజేయడం ప్రారంభించింది. జెమిని నిశ్శబ్ద భాగాలను చాలా బిగ్గరగా చెప్పారు, వారు విననట్లు ఎవరూ నటించలేరు.

ఈ ప్రక్రియలో, రిపబ్లికన్ మద్దతు దాదాపు 50 శాతం ఉన్న దేశంలో ఈ రహస్య కోడ్ ఎంత పనికిరాదని గూగుల్ వెల్లడించింది. జెమిని ప్రోగ్రామర్లు దృష్టిలో ఉంచుకున్న దాని కంటే చాలా వదులుగా ఉన్న దాని స్థానంలో ఇది మొదటి అడుగు, మరియు అనేక విధాలుగా విభిన్న దేశానికి చాలా అనుకూలంగా ఉంటుంది.