AI గురించిన ఆందోళనలు అత్యున్నత స్థాయి ఫైనాన్స్ మరియు లా వరకు విస్తరించాయి.

వాషింగ్టన్‌లోని ఫైనాన్షియల్ స్టెబిలిటీ ఓవర్‌సైట్ కౌన్సిల్ AI “ప్రత్యక్ష వినియోగదారులకు హాని” కలిగించవచ్చని మరియు సెక్యూరిటీస్ అండ్ ఎక్స్ఛేంజ్ కమిషన్ (SEC) చైర్మన్ గ్యారీ జెన్స్‌లర్ హెచ్చరించినట్లు బెదిరింపుల గురించి బహిరంగంగా హెచ్చరించిన కొద్ది వారాల తర్వాత పెద్ద సంఖ్యలో ఈ ప్రకటన వస్తుందని హెచ్చరించారు. ఆర్ధిక స్థిరత్వం. కొనుగోలు మరియు అమ్మకం నిర్ణయాలు తీసుకోవడానికి కంపెనీలు ఇలాంటి AI మోడల్‌లపై ఆధారపడతాయి.

“భవిష్యత్ ఆర్థిక సంక్షోభాల పోస్ట్‌మార్టం రిపోర్టింగ్‌లో AI ప్రధాన పాత్ర పోషిస్తుంది” అని డిసెంబర్‌లో చేసిన ప్రసంగంలో ఆయన అన్నారు.

AI అనేది వరల్డ్ ఎకనామిక్ ఫోరమ్ యొక్క వార్షిక సమావేశంలో ప్రధాన థీమ్‌లలో ఒకటి, ఇది స్విస్ స్కీ రిసార్ట్ CEOలు, రాజకీయ నాయకులు మరియు బిలియనీర్‌లను ఒకచోట చేర్చింది మరియు అనేక ప్యానెల్‌లు మరియు ఈవెంట్‌లలో ప్రదర్శించబడుతుంది.

గత వారం విడుదల చేసిన ఒక నివేదికలో, 1,500 మంది విధాన నిర్ణేతలు మరియు పరిశ్రమల ప్రముఖుల సర్వేలో AI చాట్‌బాట్‌ల ద్వారా వ్రాయబడిన మరియు సులభతరం చేయబడిన నకిలీ వార్తలు మరియు ప్రచారాలు ప్రపంచ ఆర్థిక వ్యవస్థకు అతి పెద్ద స్వల్పకాలిక ప్రమాదం అని కనుగొన్నట్లు ఫోరమ్ తెలిపింది. ప్రపంచ జనాభాలో దాదాపు సగం మంది యునైటెడ్ స్టేట్స్, మెక్సికో, ఇండోనేషియా మరియు పాకిస్తాన్ వంటి దేశాలలో ఈ సంవత్సరం ఎన్నికలలో పాల్గొంటున్నందున, AI ప్రజలకు తప్పుడు సమాచారాన్ని వ్యాప్తి చేయడం మరియు సామాజిక సంఘర్షణలను పెంచడం సులభతరం చేస్తుందని తప్పుడు సమాచారం పరిశోధకులు అంటున్నారు. కేసు కావచ్చు.

చైనీస్ ప్రచార నటులు ఇప్పటికే తైవాన్ రాజకీయాలను ప్రభావితం చేయడానికి ఉత్పాదక AIని ఉపయోగించేందుకు ప్రయత్నిస్తున్నారని వాషింగ్టన్ పోస్ట్ శుక్రవారం నివేదించింది. తైవాన్‌లో నకిలీ వార్తల వీడియోలలో AI- రూపొందించిన కంటెంట్ కనిపిస్తోందని ప్రభుత్వ అధికారులు తెలిపారు.

FINRA తన వార్షిక నివేదికలో AI సంభావ్య వ్యయం మరియు సామర్థ్య లాభాలను అందజేస్తుండగా, “ఖచ్చితత్వం, గోప్యత, పక్షపాతం మరియు మేధో సంపత్తి గురించి ఆందోళనలు” లేవనెత్తుతుందని FINRA పేర్కొన్న తర్వాత ఫోరమ్ నివేదిక వచ్చింది.

డిసెంబరులో, ఆర్థిక వ్యవస్థలో ప్రమాదకర ప్రవర్తనను పర్యవేక్షించే ట్రెజరీ డిపార్ట్‌మెంట్ యొక్క FSOC, AIలో గుర్తించబడని డిజైన్ లోపాలు అర్హత కలిగిన దరఖాస్తుదారులకు రుణాలను తిరస్కరించడం వంటి పక్షపాత నిర్ణయాలకు దారితీస్తాయని కనుగొంది.అది సాధ్యమేనని ఆయన చెప్పారు.

పెద్ద డేటాసెట్‌లపై శిక్షణ పొందిన ఉత్పాదక AI కూడా పూర్తిగా తప్పు నిర్ధారణలను చేయగలదు, అది నమ్మదగినదిగా అనిపిస్తుంది, కౌన్సిల్ జోడించబడింది. ట్రెజరీ సెక్రటరీ జానెట్ ఎల్. యెల్లెన్ నేతృత్వంలోని FSOC, రెగ్యులేటర్లు మరియు ఆర్థిక పరిశ్రమ AI అభివృద్ధి నుండి ఉత్పన్నమయ్యే సంభావ్య నష్టాలను ట్రాక్ చేయడంపై ఎక్కువ శ్రద్ధ చూపాలని సిఫార్సు చేసింది.

AI యొక్క అత్యంత బహిరంగ విమర్శకులలో SEC యొక్క Gensler ఒకరు. పరిశ్రమ సమూహమైన ఇన్వెస్ట్‌మెంట్ అడ్వైజర్స్ అసోసియేషన్ ప్రెసిడెంట్ కరెన్ బార్ మాట్లాడుతూ, డిసెంబరులో అనేక మంది పెట్టుబడి సలహాదారుల నుండి AI వినియోగంపై సమాచారాన్ని ఆమె ఏజెన్సీ అభ్యర్థించిందని చెప్పారు. ప్రిడిక్టివ్ డేటా అనలిటిక్స్ అని పిలువబడే ఒక రకమైన AIని ఉపయోగించే సలహాదారులు మరియు వారి క్లయింట్‌ల మధ్య ఆసక్తి సంఘర్షణలను నిరోధించడానికి కమిషన్ కొత్త నియమాలను ప్రతిపాదించిన ఐదు నెలల తర్వాత “స్వీప్” అని పిలువబడే సమాచారం కోసం అభ్యర్థన వచ్చింది. ఇది నిర్వహించబడింది.

“ఆసక్తి వైరుధ్యాలు గతంలో కంటే మరింత స్పష్టమైన మార్గాల్లో మరియు విస్తృత స్థాయిలో పెట్టుబడిదారులకు హాని కలిగిస్తాయి” అని SEC తన ప్రతిపాదిత నియమావళిలో పేర్కొంది.

తమ క్లయింట్‌ల అవసరాలకు ప్రాధాన్యత ఇవ్వడానికి మరియు అటువంటి విభేదాలను నివారించడానికి ఇప్పటికే ఉన్న నిబంధనల ప్రకారం పెట్టుబడి సలహాదారులు ఇప్పటికే అవసరమని బార్ చెప్పారు. ప్రతిపాదిత నియమాన్ని ఉపసంహరించుకోవాలని మరియు ఇంటెలిజెన్స్ సేకరణ నుండి నేర్చుకున్న సమాచారం ఆధారంగా భవిష్యత్ చర్యలను ఆధారం చేసుకోవాలని ఆమె బృందం SECని కోరుతోంది. “SEC యొక్క రూల్‌మేకింగ్ పాయింట్‌ను కోల్పోయింది,” ఆమె చెప్పింది.

ఆర్థిక సేవల కంపెనీలు కస్టమర్ కమ్యూనికేషన్‌లు, బ్యాక్-ఆఫీస్ కార్యకలాపాలు మరియు పోర్ట్‌ఫోలియో నిర్వహణను మెరుగుపరచడానికి అవకాశాలను చూస్తాయి. కానీ AI కూడా ఎక్కువ నష్టాలతో వస్తుంది. ఆర్థిక నిర్ణయాలు తీసుకునే అల్గారిథమ్‌లు మైనారిటీలకు క్రెడిట్ యాక్సెస్‌ను నిరాకరించే పక్షపాత రుణ నిర్ణయాలను సృష్టించగలవు లేదా అదే AI వ్యవస్థపై ఆధారపడిన డజన్ల కొద్దీ ఆర్థిక సంస్థలు ఒకే సమయంలో విక్రయిస్తే ప్రపంచ మార్కెట్ పతనానికి కారణం కావచ్చు.

“ఇది మనం ఇంతకు ముందు చూసిన వాటికి భిన్నంగా ఉంది. మానవ ప్రమేయం లేకుండా పనులు చేయగల సామర్థ్యం AIకి ఉంది” అని వాషింగ్టన్‌లోని రోప్స్ & గ్రేలో ఉన్న మాజీ SEC అధికారి అన్నారు. న్యాయవాది జెరెమియా విలియమ్స్ అన్నారు.

ఆందోళనకు కారణం ఉందని సుప్రీంకోర్టు కూడా అభిప్రాయపడింది.

“న్యాయవాదులు మరియు న్యాయవాదులు కాని వారి కోసం ముఖ్యమైన సమాచారాన్ని నాటకీయంగా పెంచడానికి AI గొప్ప సామర్థ్యాన్ని కలిగి ఉందని స్పష్టమైంది. అయితే ఇది గోప్యతా హక్కులను ఉల్లంఘిస్తుంది మరియు చట్టాన్ని అమానవీయం చేస్తుంది. “ప్రమాదం స్పష్టంగా ఉంది,” చీఫ్ జస్టిస్ జాన్ జి. రాబర్ట్స్ జూనియర్. U.S. కోర్టు వ్యవస్థపై తన సంవత్సరాంత నివేదికలో పేర్కొంది.

అమెరికన్ యూనివర్శిటీ యొక్క వాషింగ్టన్ స్కూల్ ఆఫ్ లా అసోసియేట్ డీన్ హిల్లరీ అలెన్ మాట్లాడుతూ, డ్రైవర్లు GPS దిశలను అనుసరించడం మరియు అంతిమంగా ఉన్నట్లే, మానవులు తమ ఆర్థిక నిర్వహణ కోసం AIపై ఎక్కువగా ఆధారపడవచ్చు. “AI మన కంటే తెలివైనదని నేను చాలా రహస్యంగా భావిస్తున్నాను” అని ఆమె చెప్పింది.

అసంభవమైన ప్రమాదాలు లేదా “తోక ప్రమాదాలను” గుర్తించడంలో AI కూడా మానవుల వలె మంచిదని అలెన్ చెప్పారు. 2008కి ముందు, వాల్ స్ట్రీట్‌లోని కొంతమంది హౌసింగ్ బబుల్ ముగింపును అంచనా వేశారు. దీనికి ఒక కారణం ఏమిటంటే, వాల్ స్ట్రీట్ యొక్క మోడల్ ఇంత అంతటా అంతటా క్షీణత సంభవించదని భావించింది, ఎందుకంటే గృహాల ధరలు అంతకు ముందు జాతీయ స్థాయిలో తగ్గలేదు. అత్యుత్తమ AI సిస్టమ్ కూడా దాని ఆధారంగా ఉన్న డేటా మాత్రమే మంచిదని అలెన్ చెప్పారు.

AI మరింత క్లిష్టంగా మరియు అధునాతనంగా మారడంతో, కొంతమంది నిపుణులు “బ్లాక్ బాక్స్” ఆటోమేషన్ గురించి ఆందోళన చెందుతున్నారు, ఇది AI తన నిర్ణయాలను ఎలా చేరుకుందో వివరించలేకపోతుంది, AI ఆరోగ్యం గురించి మానవులకు తెలియదు. న్యూయార్క్ యూనివర్శిటీ యొక్క స్టెర్న్ స్కూల్ ఆఫ్ బిజినెస్‌లో ఫైనాన్స్ యొక్క క్లినికల్ ప్రొఫెసర్ రిచర్డ్ బెర్నర్ మాట్లాడుతూ, పేలవంగా రూపొందించబడిన మరియు నిర్వహించబడే వ్యవస్థలు ఏదైనా ఆర్థిక లావాదేవీకి అవసరమైన కొనుగోలుదారులు మరియు విక్రేతల మధ్య నమ్మకాన్ని దెబ్బతీస్తాయి.

ట్రెజరీ డిపార్ట్‌మెంట్ యొక్క ఫైనాన్షియల్ రీసెర్చ్ సర్వీస్ యొక్క మొదటి డైరెక్టర్ బెర్నర్ జోడించారు: “యంత్రం నియంత్రణ లేకుండా పోయే ఒత్తిడి దృష్టాంతంలో ఎవరూ లేరు.”

AI చుట్టూ ఉన్న సంభావ్య ప్రమాదాల గురించి చర్చలు సిలికాన్ వ్యాలీలో కొత్తవి కావు. అయితే, 2022 చివరలో OpenAI యొక్క ChatGPT ప్రకటించిన కొన్ని నెలల తర్వాత, ఇది గణనీయంగా మెరుగుపరచబడింది, తరువాతి తరం సాంకేతికత యొక్క సామర్థ్యాలను ప్రపంచానికి చూపుతుంది.

AI ప్రమాదాలను పరిష్కరించడానికి OpenAI ప్రణాళికను అభివృద్ధి చేస్తుంది

టెక్ పరిశ్రమకు ఆజ్యం పోస్తున్న ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ బూమ్ మధ్య, కొంతమంది ఎగ్జిక్యూటివ్‌లు సామాజిక గందరగోళానికి కారణమయ్యే AI యొక్క సామర్థ్యాన్ని అణ్వాయుధాలు లేదా ఘోరమైన మహమ్మారితో పోల్చవచ్చని హెచ్చరించారు. చాలా మంది పరిశోధకులు ఈ ఆందోళనలు AI యొక్క వాస్తవ-ప్రపంచ ప్రభావం నుండి దృష్టి మరల్చుతాయని చెప్పారు. ఇతర నిపుణులు మరియు వ్యవస్థాపకులు సాంకేతికత గురించిన ఆందోళనలు మితిమీరిపోతున్నాయని మరియు రిస్క్ రెగ్యులేటర్లు ప్రజలకు సహాయపడే మరియు టెక్నాలజీ కంపెనీలకు లాభాలను పెంచే ఆవిష్కరణలను అడ్డుకుంటున్నారని చెప్పారు.

గత సంవత్సరంలో, ప్రపంచవ్యాప్తంగా ఉన్న రాజకీయ నాయకులు మరియు విధాన రూపకర్తలు కూడా AI సమాజానికి ఎలా సరిపోతుందో అర్థం చేసుకోవడానికి కృషి చేస్తున్నారు. కాంగ్రెస్ అనేక బహిరంగ విచారణలు నిర్వహించింది. అధ్యక్షుడు బిడెన్ AIని “మన కాలంలోని అత్యంత ముఖ్యమైన సాంకేతికత”గా పేర్కొంటూ కార్యనిర్వాహక ఉత్తర్వును జారీ చేశారు. బ్రిటన్ గ్లోబల్ AI ఫోరమ్‌ను నిర్వహించింది, ఛాన్సలర్ రిషి సునక్ “మానవత్వం AIపై పూర్తిగా నియంత్రణను కోల్పోతుంది” అని హెచ్చరించింది. టెక్స్ట్, వీడియో, ఇమేజ్‌లు మరియు ఆడియోను సృష్టించగల “ఉత్పత్తి” AI, తప్పుడు సమాచారాన్ని రూపొందించడానికి, ఉద్యోగాలను దొంగిలించడానికి లేదా ప్రమాదకరమైన జీవ ఆయుధాలను సృష్టించడానికి కూడా ఉపయోగపడుతుంది. లైంగికంగా చురుకుగా ఉండే ప్రమాదాన్ని కలిగి ఉంటుంది.

అణ్వాయుధాల మాదిరిగానే AI కూడా అంతరించిపోయే ప్రమాదం ఉందని సాంకేతిక నిపుణులు అంటున్నారు

ఓపెన్‌ఏఐ సీఈఓ సామ్ ఆల్ట్‌మాన్ వంటి కొంతమంది అలారమిస్ట్ నాయకులు ఇప్పటికీ సాంకేతికతను అభివృద్ధి చేయడానికి మరియు వాణిజ్యీకరించడానికి ప్రయత్నిస్తున్నారని సాంకేతిక వ్యాఖ్యాతలు చెప్పారు. చిన్న వ్యాపారాలు AI దిగ్గజాలు OpenAI, Google మరియు Microsoft AI యొక్క ప్రమాదాలను అతిగా హైప్ చేస్తున్నాయని మరియు కొత్తగా ప్రవేశించే వారికి పోటీని కష్టతరం చేసే నిబంధనలను విధించాయని ఆరోపించాయి.

న్యూయార్క్‌కు చెందిన ఓపెన్ సోర్స్ AI స్టార్టప్ అయిన హగ్గింగ్ ఫేస్‌లో చీఫ్ ఎథికల్ సైంటిస్ట్ మార్గరెట్ మిచెల్ మాట్లాడుతూ, “చెప్పబడిన వాటికి మరియు వాస్తవానికి సాధ్యమయ్యే వాటికి మధ్య డిస్‌కనెక్ట్ ఉండటమే హైప్ యొక్క మొత్తం పాయింట్. “మేము హనీమూన్ పీరియడ్‌ను గడిపాము, ఇక్కడ ఉత్పాదక AI అనేది సాధారణ ప్రజలకు చాలా కొత్తది మరియు మేము సానుకూల అంశాలను మాత్రమే చూడగలిగాము, కానీ ప్రజలు దీనిని ఉపయోగించడం ప్రారంభించిన తర్వాత, దానితో ఉన్న సమస్యలన్నీ మాయమయ్యాయి. మీరు దానిని చూడగలరు.”