ఎన్నికల్లో మోసపూరిత AIకి వ్యతిరేకంగా చర్యలు తీసుకుంటామని టెక్ దిగ్గజాలు హామీ ఇచ్చారు

మైఖేల్ డ్వైర్/అసోసియేటెడ్ ప్రెస్

జనవరి 23, 2024న న్యూ హాంప్‌షైర్‌లోని మాంచెస్టర్‌లో ప్రెసిడెన్షియల్ ప్రైమరీ ఎన్నికల సందర్భంగా సెయింట్ ఆంథోనీ కమ్యూనిటీ సెంటర్ పోలింగ్ స్థలం నుండి ఓటర్లు బయలుదేరారు.

మైక్రోసాఫ్ట్, మెటా, గూగుల్, అమెజాన్, ఎక్స్, ఓపెన్‌ఏఐ మరియు టిక్‌టాక్‌తో సహా టెక్ దిగ్గజాలు 2024 ఎన్నికలలో కృత్రిమ మేధస్సు జోక్యం చేసుకునే ప్రమాదాన్ని తగ్గించే లక్ష్యంతో శుక్రవారం ఒక ఒప్పందాన్ని ప్రకటించాయి.

టెక్ పరిశ్రమ యొక్క “ఒప్పందం” అభ్యర్థులు, ఎన్నికల అధికారులు మరియు ఓటింగ్ ప్రక్రియ గురించి ఓటర్లను తప్పుదారి పట్టించే AI- రూపొందించిన చిత్రాలు, వీడియోలు మరియు ఆడియోలను లక్ష్యంగా చేసుకుంటుంది. అయితే, అటువంటి కంటెంట్‌పై పూర్తి నిషేధం కోసం ఇది కాల్ చేయడాన్ని ఆపివేస్తుంది.

బిలియన్ల కొద్దీ వినియోగదారులు సమిష్టిగా ఉపయోగించే ప్లాట్‌ఫారమ్ యొక్క ఐక్యతను ఈ ఒప్పందం సూచిస్తున్నప్పటికీ, AI- రూపొందించిన కంటెంట్‌ను గుర్తించి లేబుల్ చేసే ప్రయత్నాలతో సహా ఇప్పటికే జరుగుతున్న ప్రయత్నాలను కూడా ఇది వివరిస్తుంది. వాటిలో చాలా వరకు వివరించబడ్డాయి.

ఓటర్లను తప్పుదారి పట్టించడానికి మరియు పదవికి పోటీ చేసే వారికి దురుద్దేశపూర్వకంగా తప్పుడు సమాచారం అందించడానికి AI ఎలా ఉపయోగపడుతుందనే ఆందోళనలు ఓటర్లను తప్పుదారి పట్టించడానికి మరియు దురుద్దేశపూర్వకంగా పదవి కోసం పోటీ పడుతున్న వారికి సమాచారం ఇవ్వడానికి AI ఎలా ఉపయోగించబడుతుందనే ఆందోళనలను రేకెత్తిస్తోంది. 2020లో ఇది మరింత పెరుగుతుందని భావిస్తున్నారు. జనవరిలో జరిగిన న్యూ హాంప్‌షైర్ ప్రైమరీలో డెమొక్రాట్‌లు ఓటు వేయకుండా నిరోధించడానికి, స్లోవేకియాలో సెప్టెంబర్‌లో జరిగిన ఎన్నికలలో ఒక ప్రముఖ అభ్యర్థి ఓట్లను రిగ్గింగ్ చేశారని సూచించడానికి, ప్రెసిడెంట్ బిడెన్ వలె నటించడానికి AI ద్వారా రూపొందించబడిన స్వరాలు ఉపయోగించబడ్డాయి. ఇది ఇప్పటికే ఆడియోను ప్రసారం చేయడానికి ఉపయోగించబడుతోంది.

“మోసపూరిత AI ఎన్నికల కంటెంట్‌ను ఉద్దేశపూర్వకంగా మరియు ప్రైవేట్‌గా ఉత్పత్తి చేయడం మరియు పంపిణీ చేయడం ఎన్నికల ప్రక్రియ యొక్క సమగ్రతను దెబ్బతీసే విధంగా ప్రజలను తప్పుదారి పట్టించే అవకాశం ఉంది” అని ఒప్పందం పేర్కొంది. “ఎన్నికల సమగ్రతను మరియు ప్రజల విశ్వాసాన్ని రక్షించడం అనేది భాగస్వామ్య బాధ్యత మరియు పక్షపాత ప్రయోజనాలను మరియు జాతీయ సరిహద్దులను అధిగమించే ఉమ్మడి ఆసక్తి అని మేము ధృవీకరిస్తున్నాము.”

“దావోస్ ఆఫ్ నేషనల్ డిఫెన్స్”గా పిలువబడే దేశాధినేతలు, ఇంటెలిజెన్స్, మిలిటరీ మరియు దౌత్యవేత్తల వార్షిక సమావేశమైన మ్యూనిచ్ సెక్యూరిటీ కాన్ఫరెన్స్‌లో కంపెనీలు ఈ ఒప్పందాన్ని ప్రకటించాయి.

ఒప్పందం అనేది టెక్నాలజీ కంపెనీల స్వచ్ఛంద సూత్రాలు మరియు కట్టుబాట్ల సమితి. AIతో సృష్టించబడిన వాస్తవిక కంటెంట్‌ను వాటర్‌మార్క్ చేయడానికి, గుర్తించడానికి మరియు లేబుల్ చేయడానికి సాంకేతికతను అభివృద్ధి చేయడం ఇందులో ఉంది. దుర్వినియోగ ప్రమాదాలను గుర్తించడానికి మీ AI సాఫ్ట్‌వేర్ యొక్క అంతర్లీన నమూనాలను మూల్యాంకనం చేయండి. AI గురించి ప్రజలకు అవగాహన కల్పించే ప్రయత్నాలకు మద్దతు ఇవ్వండి. హామీలు ఎలా నెరవేరుస్తాయో ఒప్పందంలో పేర్కొనలేదు.

ఈ ఏడాది ప్రారంభంలోనే అగ్రిమెంట్ పనులు ప్రారంభించగా కేవలం ఆరు వారాల్లోనే తుది ఒప్పందం కుదిరింది. దీని వెడల్పులో చాలా మంది సాంకేతిక వ్యాఖ్యాతలు కోరిన నిర్దిష్టమైన, అమలు చేయదగిన చర్యలు లేవు, కానీ ఇంత తక్కువ వ్యవధిలో 20 వేర్వేరు కంపెనీలను బోర్డులోకి తీసుకురావడం యొక్క సవాలును ప్రతిబింబిస్తుంది.

మైక్రోసాఫ్ట్ ప్రెసిడెంట్ బ్రాడ్ స్మిత్ మాట్లాడుతూ పరిశ్రమల ఐక్యతను ప్రదర్శించడం ఒక సాఫల్యమన్నారు.

“మనమందరం కొత్త ఆవిష్కరణలు చేయాలనుకుంటున్నాము మరియు అవసరం. మనమందరం ఒకరితో ఒకరు పోటీపడాలని కోరుకుంటున్నాము మరియు అవసరం. మేము మా వ్యాపారాలను అభివృద్ధి చేయాలనుకుంటున్నాము మరియు అవసరం.” “కానీ మేము ఉన్నత స్థాయి బాధ్యతను సమర్థించడం మరియు ప్రజాస్వామ్యంతో సహా నిజమైన సమస్యలను గుర్తించడం మరియు పరిష్కరించడం కూడా చాలా అవసరం.”

ఒప్పందంపై సంతకం చేసిన 20 కంపెనీలలో OpenAI, Anthropic మరియు Adobe వంటి AI కంటెంట్ జనరేషన్ సాధనాలను అభివృద్ధి చేస్తున్న కంపెనీలు ఉన్నాయి. పత్రంపై ఎలెవెన్ ల్యాబ్స్ సంతకం చేసింది, ఇది బిడెన్ యొక్క నకిలీ వాయిస్ వెనుక ఉందని వాయిస్ క్లోనింగ్ పరిశోధకులు విశ్వసిస్తున్నారు. ఫేస్‌బుక్ మరియు ఇన్‌స్టాగ్రామ్, టిక్‌టాక్ మరియు కంపెనీ ఎక్స్‌ను కలిగి ఉన్న మెటాతో సహా కంటెంట్‌ను పంపిణీ చేసే ప్లాట్‌ఫారమ్‌లు కూడా సైన్ ఇన్ చేయబడ్డాయి, గతంలో ట్విట్టర్ అని పిలుస్తారు.

మెటా యొక్క గ్లోబల్ ప్రెసిడెంట్ నిక్ క్లెగ్ మాట్లాడుతూ, AI ద్వారా ఎదురయ్యే ముప్పు స్థాయికి పరిశ్రమగా కలిసి రావాల్సిన అవసరం ఉందని, దీనికి అదనంగా వ్యక్తిగత కంపెనీలు ఇప్పటికే చేస్తున్న ప్రయత్నాలకు తోడు.

“ఎన్నికల సమయంలో AI యొక్క మోసపూరిత ఉపయోగానికి వ్యతిరేకంగా మా అన్ని రక్షణలు మా సమిష్టి ప్రయత్నాల వలె మాత్రమే బలంగా ఉన్నాయి” అని అతను చెప్పాడు. “ఉత్పత్తి చేయబడిన AI కంటెంట్ కేవలం ఒక ప్లాట్‌ఫారమ్‌లో మాత్రమే ఉండదు; ఇది ఇంటర్నెట్‌లో ఒక ప్లాట్‌ఫారమ్ నుండి మరొక ప్లాట్‌ఫారమ్‌కు వేగంగా కదులుతుంది.”

ఈ ఒప్పందం పారదర్శకత, విద్య, మరియు మోసపూరిత AI కంటెంట్‌ను తొలగించడం కంటే గుర్తించడం మరియు లేబుల్ చేయడంపై దృష్టి సారిస్తుంది మరియు టెక్ పరిశ్రమ యొక్క రాజకీయ కంటెంట్‌పై పోలీసు విముఖతను మరింత తీవ్రంగా పరిష్కరిస్తుంది. ఇది ప్రతిబింబిస్తుంది.

మితవాద విమర్శకులు సోషల్ మీడియా ప్లాట్‌ఫారమ్‌ల విధానాలు మరియు ఎన్నికలకు సంబంధించిన అబద్ధాలను కొట్టివేయడానికి ఉద్దేశించిన ప్రభుత్వ ఏజెన్సీలు మరియు విద్యావేత్తలతో భాగస్వామ్యానికి వ్యతిరేకంగా కాంగ్రెస్ మరియు కోర్టులలో ఒత్తిడి ప్రచారం చేస్తున్నారు. దీంతో కొన్ని టెక్నాలజీ కంపెనీలు ఈ ప్రయత్నాల నుంచి వెనక్కి తగ్గాయి. ముఖ్యంగా తప్పుడు సమాచారం, ప్రచారం మరియు ద్వేషపూరిత ప్రసంగాలు ఎలోన్ మస్క్ బాధ్యతలు చేపట్టినప్పటి నుండి X లో పెరిగాయి, పరిశోధకులు అంటున్నారు.

మైక్రోసాఫ్ట్ యొక్క స్మిత్ మాట్లాడుతూ, ఒప్పందం స్వేచ్ఛా ప్రసంగం మధ్య తేడాను స్పష్టంగా చూపుతుందని, ఇది రెండు కంపెనీలు రక్షించడానికి ప్రయత్నిస్తుంది మరియు మోసపూరిత కంటెంట్‌ను కలిగి ఉంది.

“ప్రతిఒక్కరూ తమ కోసం మాట్లాడనివ్వండి. వారు పట్టించుకునే సమస్యల గురించి మాట్లాడటానికి సమూహాలు కలిసి రావాలి. అయితే ఎప్పుడూ మాట్లాడని పదాలను ఒకరి నోటిలో పెట్టడానికి ప్రయత్నిద్దాం. , ప్రజలను మోసం చేయవద్దు లేదా ప్రాథమికంగా మోసం చేయవద్దు,” అని ఆయన అన్నారు. “మా అభిప్రాయం ప్రకారం, అది భావ ప్రకటనా స్వేచ్ఛ కాదు. దానిని మేము మోసం మరియు మోసం అని పిలుస్తాము.”

పాత సమస్యలపై కొత్త ముడతలు కనిపిస్తాయి

ఈ ఎన్నికల చక్రంలో AI ఎంత విఘాతం కలిగిస్తుంది అనేది బహిరంగ మరియు సమాధానం లేని ప్రశ్నగా మిగిలిపోయింది.

కొంతమంది నిపుణులు ప్రమాదాలను అతిగా చెప్పడం కష్టమని ఆందోళన చెందుతున్నారు.

“ప్రత్యర్థులకు అందుబాటులో ఉన్న కొత్త టెక్నాలజీల ద్వారా అందించబడిన శక్తి భయాన్ని కలిగిస్తుంది” అని ఓపెన్ సోర్స్ ఎలక్షన్ టెక్నాలజీ కంపెనీ అయిన ఫ్రీ అండ్ ఫెయిర్‌లో చీఫ్ సైంటిస్ట్ జో కినిలే అన్నారు. “వచ్చే సంవత్సరంలో మనం చూడబోయే కొన్ని విషయాలకు దగ్గరగా వచ్చే సైన్స్ ఫిక్షన్ రచనను మీరు ఇప్పుడే చేయగలరని నేను అనుకోను.”

కానీ ఎన్నికల అధికారులు మరియు ఫెడరల్ ప్రభుత్వం ప్రభావం మరింత పరిమితంగా ఉంటుందని నొక్కి చెప్పారు.

సైబర్‌ సెక్యూరిటీ అండ్ ఇన్‌ఫ్రాస్ట్రక్చర్ సెక్యూరిటీ ఏజెన్సీ, డిపార్ట్‌మెంట్ ఆఫ్ హోమ్‌ల్యాండ్ సెక్యూరిటీ ఎన్నికల భద్రతకు బాధ్యత వహిస్తుంది, ఇటీవలి నివేదికలో ఉత్పాదక AI సామర్థ్యాలు “కొత్త ప్రమాదాలను కలిగించే అవకాశం లేదు, కానీ ఎన్నికల మౌలిక సదుపాయాలకు ఇప్పటికే ఉన్న నష్టాలను కలిగిస్తుంది” అని పేర్కొంది. ప్రమాదాలు.” ఓటింగ్ ప్రక్రియ మరియు సైబర్ సెక్యూరిటీ బెదిరింపులు.

ఈ నెల ప్రారంభంలో వాషింగ్టన్, D.C.లో జరిగిన స్టేట్ సెక్రటరీ సమావేశంలో AI ఆధిపత్యం చెలాయించింది, ఎన్నికల అధికారులు ఎన్నికల ప్రక్రియ గురించి తప్పుడు సమాచారంతో పోరాడుతున్నారని వెంటనే ఎత్తి చూపారు. AIలో ఇటీవలి పురోగతులు ఒక పరిణామం మాత్రమే. . ఇది వారికి ఇప్పటికే తెలిసిన విషయమే.

డెమొక్రాటిక్ అరిజోనా స్టేట్ సెక్రటరీ అడ్రియన్ ఫాంటెస్ మాట్లాడుతూ, “AI అనేది కొంతమంది గొప్పగా చెప్పుకుంటున్న గొప్ప, రహస్యమైన, ప్రపంచాన్ని మార్చే రాక్షసుడు కాదు, కానీ దాని యాంప్లిఫైయర్. బహిర్గతం కావాలి.” “ఇది చెడు సందేశాలను వ్యాప్తి చేసే సాధనం, కానీ ఇది గొప్ప సామర్థ్యాలను కనుగొనడానికి మాకు అనుమతించే సాధనం.”

సామ్ వోలంటే/క్రోంకైట్ వార్తలు

అరిజోనా రాష్ట్ర కార్యదర్శి అడ్రియన్ ఫాంటెస్ సెప్టెంబర్ 19, 2023న ఫీనిక్స్ కోడింగ్ అకాడమీలో ఓటర్ నమోదు గురించి హైస్కూల్ విద్యార్థులతో మాట్లాడుతున్నారు.

తరచుగా వచ్చే ఒక నిర్దిష్ట ఆందోళన ఏమిటంటే, సంశయవాదం వారు ఆన్‌లైన్‌లో చూసే వాటిపై అనుమానం కలిగి ఉండేలా ప్రజలను ప్రోత్సహిస్తుంది, విస్తృతమైన అపనమ్మకానికి దారితీయకుండా లేదా మొత్తం సమాచారం నుండి విడదీయబడదు. ఇది ఎంత కష్టమైనదో.

ఉదాహరణకు, “అబద్ధాల డివిడెండ్” అని పిలువబడే AI ద్వారా నిజమైన సమాచారం రూపొందించబడిందని అభ్యర్థులు ఎక్కువగా క్లెయిమ్ చేస్తారని అధికారులు భావిస్తున్నారు.

“అంతా నకిలీ అని క్లెయిమ్ చేయడం సులభం అవుతుంది,” అని CISAలో ఎన్నికల భద్రతా విశ్లేషకుడు అడ్రియానా స్టీఫన్, కాన్ఫరెన్స్‌లో AI పై ప్యానెల్ చర్చ సందర్భంగా అన్నారు.

రెగ్యులేటర్లు కూడా కాపలాదారులపై శ్రద్ధ చూపుతారు
కొత్త టెక్నాలజీ ఒప్పందంపై సంతకం చేసిన చాలా మంది ఇప్పటికే ఒప్పందం పరిధిలోకి వచ్చే కార్యక్రమాలను ప్రకటించారు. Meta, TikTok మరియు Google వాస్తవిక AI- రూపొందించిన కంటెంట్‌ను పోస్ట్ చేసినప్పుడు వినియోగదారులు బహిర్గతం చేయవలసి ఉంటుంది. రాజకీయ లేదా వాణిజ్య ఆమోదాల కోసం ఉపయోగించే ప్రముఖుల AI నకిలీలను TikTok నిషేధించింది. OpenAI దాని సాధనాలను రాజకీయ ప్రచారానికి, అభ్యర్థులను అనుకరించే చాట్‌బాట్‌లను సృష్టించడానికి లేదా ఓటింగ్‌ను నిరుత్సాహపరిచేందుకు అనుమతించదు.

పరిశ్రమ అభివృద్ధి చేస్తున్న అదృశ్య మార్కర్లను ఉపయోగించి రాబోయే నెలల్లో ప్రముఖ AI సాధనాలతో రూపొందించిన చిత్రాలను లేబులింగ్ చేయడం ప్రారంభిస్తామని మెటా గత వారం ప్రకటించింది. ఎన్నికలు, రాజకీయాలు మరియు సామాజిక సమస్యలకు సంబంధించిన ప్రకటనలలో ప్రకటనకర్తలు తమ AI వినియోగాన్ని బహిర్గతం చేయాలని మెటా కోరుతోంది మరియు రాజకీయ ప్రకటనదారులు ప్రకటనలను రూపొందించడానికి దాని యాజమాన్య ఉత్పాదక AI సాధనాలను ఉపయోగించకుండా నిషేధిస్తుంది.

న్యూ హాంప్‌షైర్‌లో ఓటర్లను తప్పుదారి పట్టించడానికి AI- రూపొందించిన ఆడియో మరియు వీడియో ఇప్పటికే ఉపయోగించబడినప్పటికీ, AI- రూపొందించిన ఆడియో మరియు వీడియోలను గుర్తించడానికి మరియు లేబుల్ చేయడానికి ప్రయత్నాలు ఇంకా ప్రారంభమయ్యాయి. నాకు ఇప్పుడే అర్థమైంది.

కానీ టెక్ కంపెనీలు తమ ఉత్పత్తులను దుర్వినియోగం చేసే సంభావ్యత గురించి ఒత్తిడికి ప్రతిస్పందిస్తున్నప్పటికీ, మరింత అధునాతన సాంకేతిక పరిజ్ఞానాన్ని అభివృద్ధి చేస్తున్నాయి. OpenAI గురువారం సాధారణ టెక్స్ట్ ప్రాంప్ట్‌ల నుండి ఒక నిమిషం వరకు వాస్తవిక వీడియోలను రూపొందించే సాధనాన్ని ప్రకటించింది.

కొత్త సాంకేతికత చుట్టూ కాపలాదారులను ఎలా సెట్ చేయాలనే దానితో రెగ్యులేటర్లు పోరాడుతున్నప్పుడు కంపెనీలు తమ AI వినియోగాన్ని స్వచ్ఛందంగా అరికట్టడానికి ఈ చర్య తీసుకుంది.

యూరోపియన్ చట్టసభ సభ్యులు ఏప్రిల్‌లో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చట్టాన్ని ఆమోదించడానికి సిద్ధంగా ఉన్నారు, ఇది ప్రపంచంలోని మొట్టమొదటి సమగ్ర AI చట్టంగా బిల్ చేయబడిన నియమాల యొక్క సుదూర సెట్.

యునైటెడ్ స్టేట్స్‌లో, సాంకేతికతను నియంత్రించే ఫెడరల్ బిల్లుల శ్రేణి చాలా తక్కువ శ్రద్ధను పొందింది, ఎన్నికల్లో మోసపూరిత డీప్‌ఫేక్‌లను నిషేధించడం మరియు AIని పర్యవేక్షించడానికి కొత్త ఏజెన్సీని సృష్టించడం వంటివి ఉన్నాయి. ప్రగతిశీల న్యాయవాద సమూహం పబ్లిక్ సిటిజెన్ ప్రకారం, ఈ సంవత్సరం ప్రారంభం నుండి ఎన్నికలలో డీప్‌ఫేక్‌లను నియంత్రించడానికి సుమారు 32 రాష్ట్రాలలో చట్టసభ సభ్యులు బిల్లులను ప్రవేశపెట్టడంతో రాష్ట్ర చర్య వేగవంతం అవుతోంది.

సిలికాన్ వ్యాలీ విమర్శకులు ఎన్నికలకు ఇప్పటికే ఉన్న బెదిరింపులను విస్తరింపజేస్తున్నప్పటికీ, సాంకేతికత వల్ల కలిగే నష్టాలు కంపెనీల తాజా సాధనాల కంటే విస్తృతంగా ఉన్నాయని వాదించారు.

“అయితే, ఈ సంవత్సరం ఎన్నికలకు ప్రధాన సాంకేతికత-సంబంధిత ముప్పు AIని ఉపయోగించి కంటెంట్‌ను సృష్టించడం కాదు, కానీ మరింత సుపరిచితమైన కారణం: సోషల్ మీడియా ప్లాట్‌ఫారమ్‌ల ద్వారా తప్పుడు, ద్వేషపూరిత మరియు హింసాత్మక కంటెంట్‌ను పంపిణీ చేయడం. కొత్త ఇన్‌స్టిట్యూట్‌లోని పరిశోధకులు తెలిపారు. యార్క్ యూనివర్శిటీ యొక్క స్టెర్న్ సెంటర్ ఫర్ బిజినెస్ అండ్ హ్యూమన్ రైట్స్ ఈ వారం Meta, Google మరియు Xలో చేసిన కంటెంట్ మోడరేషన్ మార్పులను విమర్శిస్తూ ఒక నివేదికను రాసింది.