స్ట్రాటో ఆవరణ భద్రతా ప్రమాణాలు: ఏవియేషన్ ఆరోగ్యంలో AI నియంత్రణకు ఎలా మార్గనిర్దేశం చేస్తుంది | మసాచుసెట్స్ ఇన్‌స్టిట్యూట్ ఆఫ్ టెక్నాలజీ న్యూస్

విమాన ప్రమాదంలో చనిపోయే అవకాశాలు ఏమిటి?ఇంటర్నేషనల్ ఎయిర్ ట్రాన్స్‌పోర్ట్ అసోసియేషన్ ప్రచురించిన 2022 నివేదిక ప్రకారం, పరిశ్రమ మరణాల ప్రమాదం 0.11. మరో మాటలో చెప్పాలంటే, ఒక వ్యక్తి ప్రాణాంతకమైన ప్రమాదంలో 100% అవకాశం కలిగి ఉండటానికి సగటున 25,214 సంవత్సరాల పాటు ప్రతిరోజూ ప్రయాణించవలసి ఉంటుంది. ఏవియేషన్, చాలా కాలంగా సురక్షితమైన రవాణా మార్గాలలో ఒకటిగా ప్రచారం చేయబడింది, ఇది అధిక నియంత్రణలో ఉంది మరియు MIT శాస్త్రవేత్తలు వైద్యంలో కృత్రిమ మేధస్సును నియంత్రించడంలో కీలక పాత్ర పోషిస్తారని నమ్ముతారు.

MIT స్కూల్ ఆఫ్ ఎలక్ట్రికల్ ఇంజనీరింగ్ అండ్ కంప్యూటర్ సైన్స్ (EECS) మరియు ఇన్‌స్టిట్యూట్ ఆఫ్ బయోమెడికల్ ఇంజినీరింగ్ సైన్సెస్‌లో అసిస్టెంట్ ప్రొఫెసర్ మార్జీ ఘసేమీ మరియు మసాచుసెట్స్ ఇన్‌స్టిట్యూట్ ఆఫ్ టెక్నాలజీలో ఏరోనాటిక్స్ అండ్ ఆస్ట్రోనాటిక్స్ ప్రొఫెసర్ జూలీ షా, . పారదర్శకత యొక్క సవాలు. AI మోడల్. 2023 ప్రారంభంలో మాట్లాడిన తర్వాత, పక్షపాత AI మోడల్‌ల వల్ల అట్టడుగు రోగులకు హాని కలగకుండా చూసేందుకు విమానయానం ఒక నమూనాగా ఉపయోగపడుతుందని వారు గ్రహించారు.

MIT అబ్దుల్ లతీఫ్ జమీల్ హెల్త్ మెషిన్ లెర్నింగ్ క్లినిక్ (జమీల్ క్లినిక్) మరియు కంప్యూటర్ సైన్స్ మరియు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ లేబొరేటరీ (CSAIL)లో ప్రధాన పరిశోధకులుగా ఉన్న Mr. ఘసేమి మరియు Mr. షా, పరిశోధకులు, న్యాయవాదుల యొక్క ఇంటర్ డిసిప్లినరీ బృందంలో భాగమయ్యారు. మరియు ఇది స్వీకరించబడింది. MIT, స్టాన్‌ఫోర్డ్ యూనివర్శిటీ, ఫెడరేషన్ ఆఫ్ అమెరికన్ సైంటిస్ట్స్, ఎమోరీ యూనివర్శిటీ, యూనివర్శిటీ ఆఫ్ అడిలైడ్, మైక్రోసాఫ్ట్ మరియు శాన్ ఫ్రాన్సిస్కోలోని కాలిఫోర్నియా విశ్వవిద్యాలయం నుండి పాలసీ విశ్లేషకులు పరిశోధన ప్రాజెక్ట్‌ను ప్రారంభించారు, దీని ఫలితాలు ఇటీవల ఈక్విటీ మరియు యాక్సెస్ ద్వారా ఆమోదించబడ్డాయి. అల్గారిథమ్స్, మెకానిజమ్స్ మరియు ఆప్టిమైజేషన్ కాన్ఫరెన్స్‌లో ప్రదానం చేయబడింది.

“AI చుట్టూ ఉన్న సమాజంలో ఒక రకమైన ఉత్సాహం ఉద్భవించడాన్ని చూడటానికి మేము నిజంగా సంతోషిస్తున్నాము అని నేను చెప్పినప్పుడు నేను మార్జియర్ మరియు నా కోసం మాట్లాడగలనని అనుకుంటున్నాను” అని ప్రధాన రచయిత అవును అన్నారు, ఇప్పుడు అసిస్టెంట్ ప్రొఫెసర్‌గా ఉన్న ఎలిజబెత్ బోండి-కెల్లీ EECS. ప్రాజెక్ట్ ప్రారంభమైనప్పుడు అతను ఘస్సేమి ల్యాబ్‌లో పోస్ట్‌డాక్టోరల్ పరిశోధకుడు. “కానీ మేము కూడా కొంచెం జాగ్రత్తగా ఉన్నాము మరియు ఈ విస్తరణలు ప్రారంభమైనప్పుడు సంభావ్య ప్రమాదాలను నిర్వహించడానికి మాకు ఒక ఫ్రేమ్‌వర్క్ ఉందని నిర్ధారించుకోవాలి మరియు మేము దానిని ఎలా సులభతరం చేయవచ్చు. నేను ప్రేరణ కోసం చూస్తున్నాను.”

నేడు ఆరోగ్యంలో AI ఒక శతాబ్దం క్రితం ఏవియేషన్ పరిశ్రమను పోలి ఉంది, మసాచుసెట్స్ ఇన్స్టిట్యూట్ ఆఫ్ టెక్నాలజీ యొక్క ఏరోస్పేస్ ఇంజనీరింగ్ విభాగంలో డాక్టరల్ విద్యార్థి సహ రచయిత లిండ్సే సన్నెమాన్ అన్నారు. మాకినాక్ సెంటర్ ఫర్ పబ్లిక్ పాలసీ ప్రకారం, 1920లను “ఏవియేషన్ స్వర్ణయుగం” అని పిలుస్తారు, అయితే ప్రాణాంతకమైన క్రాష్‌లు “ఆందోళనకరంగా ఎక్కువగా ఉన్నాయి”.

ప్రస్తుతం నేషనల్ ట్రాన్స్‌పోర్టేషన్ సేఫ్టీ బోర్డ్ (NTSB)లో సేఫ్టీ రికమండేషన్స్ డివిజన్ డైరెక్టర్ అయిన జెఫ్ మార్కస్ ఇటీవల నేషనల్ ఏవియేషన్ మంత్ కోసం ఒక బ్లాగ్ పోస్ట్‌ను ప్రచురించారు, 1920లలో చాలా ఘోరమైన క్రాష్‌లు జరిగాయని పేర్కొన్నాడు. 1929 “చెత్త సంవత్సరంగా మిగిలిపోయింది. చరిత్రలో.” 51 ప్రమాదాలు నమోదయ్యాయి, ఇది చరిత్రలో అత్యంత ఘోరమైన విమాన ప్రమాదం. నేటి ప్రమాణాల ప్రకారం, అది సంవత్సరానికి 7,000 లేదా రోజుకు 20 ప్రమాదాలు. 1920లలో జరిగిన అనేక ప్రాణాంతక క్రాష్‌లకు ప్రతిస్పందనగా, ప్రెసిడెంట్ కాల్విన్ కూలిడ్జ్ 1926లో ఎయిర్ కామర్స్ యాక్ట్ అని పిలిచే ఒక మైలురాయి బిల్లును ఆమోదించారు, అది వాణిజ్య శాఖ ద్వారా విమాన ప్రయాణాన్ని నియంత్రించింది.

కానీ సారూప్యతలు అక్కడ ముగియవు. ఆటోమేషన్‌కు విమానయాన పరిశ్రమ యొక్క తదుపరి మార్గం AI మాదిరిగానే ఉంటుంది. AI యొక్క అపఖ్యాతి పాలైన “బ్లాక్ బాక్స్” సమస్య కారణంగా AI యొక్క వివరణాత్మకత చర్చనీయాంశమైంది. AI పరిశోధకులు మోడల్ మార్గదర్శకాలను గుడ్డిగా అనుసరించడానికి ముందు వినియోగదారులకు దాని ఫలితాలను “వివరించడానికి” ఎంత అవసరమో AI పరిశోధకులు చర్చిస్తున్నారు.

“1970లలో ఆటోమేషన్‌లో పెరుగుదల కనిపించింది. “ఏవియేషన్ రంగంలోకి ఆటోమేషన్ ప్రవేశించినందున, ఆటోమేటెడ్ సిస్టమ్‌లతో మానవ పరస్పర చర్య పరంగా కొన్ని పెరుగుతున్న నొప్పులు ఉన్నాయి. సంభావ్య అంతరాయం.”

ప్రస్తుతం, కమర్షియల్ ఎయిర్‌లైన్ కెప్టెన్ కావడానికి, మీరు ఇన్‌స్ట్రుమెంట్ ట్రైనింగ్‌తో పాటు 1,500 గంటల విమాన సమయాన్ని తప్పనిసరిగా లాగిన్ చేయాలి. పరిశోధకుల పత్రం ప్రకారం, ఈ కఠినమైన మరియు సమగ్ర ప్రక్రియ బ్యాచిలర్ డిగ్రీని పూర్తి చేయడం మరియు మొదటి అధికారి కావడంతో సహా సుమారు 15 సంవత్సరాలు పడుతుంది. విస్తృతమైన పైలట్ శిక్షణ యొక్క విజయం క్లినికల్ సెట్టింగ్‌లలో AI సాధనాలను ఉపయోగించడంలో వైద్యులకు శిక్షణ ఇవ్వడానికి సంభావ్య నమూనాగా మారుతుందని పరిశోధకులు విశ్వసిస్తున్నారు.

పైలట్‌ల కోసం ఫెడరల్ ఏవియేషన్ అడ్మినిస్ట్రేషన్ (FAA) లాగా అసురక్షిత ఆరోగ్య AI సాధనాల రిపోర్టింగ్‌ను ప్రోత్సహించాలని కూడా పేపర్ సూచిస్తుంది. ఇది “క్వాలిఫైడ్ ఇమ్యూనిటీ” ద్వారా జరుగుతుంది, ఇది ఏదైనా ప్రమాదకరమైన పని చేసిన తర్వాత కూడా పైలట్‌లు తమ లైసెన్స్‌లను ఉంచుకోవడానికి వీలు కల్పిస్తుంది.

ప్రపంచ ఆరోగ్య సంస్థ ప్రచురించిన 2023 నివేదిక ప్రకారం, అధిక-ఆదాయ దేశాలలో సగటున పది మంది రోగులలో ఒకరు ఆసుపత్రి చికిత్స సమయంలో ప్రతికూల సంఘటనతో (లేదా “వైద్య లోపం”) బాధపడుతున్నారు.

అయినప్పటికీ, ప్రస్తుత వైద్య విధానంలో, అపరాధం మరియు స్వీయ-విమర్శలకు సంబంధించిన ఆందోళనల కారణంగా వైద్యులు మరియు ఆరోగ్య సంరక్షణ నిపుణులు వైద్యపరమైన లోపాలను నివేదించడానికి ఇష్టపడరు, అలాగే వైద్య లైసెన్స్‌ని రద్దు చేయడం వంటి వ్యక్తిగత శిక్షను నొక్కి చెప్పే ప్రతికూల పరిణామాలు తరచుగా భయపడుతున్నాయి. , వైద్యపరమైన లోపాలకు ఎక్కువ అవకాశం ఉన్న వ్యవస్థను సంస్కరించడం కంటే.

“ఆరోగ్యంలో, సుత్తి బయటకు వచ్చినప్పుడు, రోగులు బాధపడతారు” అని ఘసేమి 2006లో ఇటీవల ప్రచురించిన వ్యాఖ్యానంలో రాశారు. ప్రకృతి మానవ ప్రవర్తన. “ఈ వాస్తవం వైద్య AI కమ్యూనిటీకి ఆమోదయోగ్యం కాని నైతిక ప్రమాదాలను కలిగిస్తుంది, ఇది ఇప్పటికే సంక్లిష్ట సంరక్షణ సమస్యలను, సిబ్బంది కొరత మరియు సిస్టమ్ ఓవర్‌లోడ్‌ను ఎదుర్కొంటోంది.”

సహ రచయిత గ్రేస్ వికర్సన్, ఫెడరేషన్ ఆఫ్ అమెరికన్ సైంటిస్ట్‌లో హెల్త్ ఈక్విటీ పాలసీ మేనేజర్, కొత్త పేపర్‌ను ఇంకా అమలులో లేని విస్తృత పాలనా ఫ్రేమ్‌వర్క్‌కు ఒక ముఖ్యమైన అదనంగా చూస్తారు. “ప్రస్తుత ప్రభుత్వ అధికారాలతో చాలా చేయవచ్చని నేను భావిస్తున్నాను” అని వారు చెప్పారు. “మెడికేర్ మరియు మెడికేడ్ కొనుగోలు లేదా రీయింబర్స్‌మెంట్ టెక్నిక్‌లలో ఈక్విటీని పరిగణనలోకి తీసుకునేలా వైద్య AI కోసం చెల్లించడానికి వివిధ మార్గాలు ఉన్నాయి, NIH చెప్పింది. [National Institute of Health] అల్గారిథమ్‌లను సరసమైనదిగా చేయడానికి మరియు FDA ఉపయోగించగల అల్గారిథమ్‌ల కోసం ప్రమాణాలను రూపొందించడానికి మరిన్ని పరిశోధనలకు నిధులు సమకూర్చండి. [Food and Drug Administration] హెల్త్ ఈక్విటీ అంటే ఏమిటో మరియు ప్రస్తుత అధికారులలో అది ఎలా నియంత్రించబడుతుందో అర్థం చేసుకోవడానికి వారు ప్రయత్నిస్తున్నారు. ”

ప్రత్యేకంగా, ఆరోగ్య AIని నియంత్రించడంలో సహాయపడే ఆరు కీలక ప్రభుత్వ ఏజెన్సీలను పేపర్ గుర్తిస్తుంది. వీటిలో FDA, ఫెడరల్ ట్రేడ్ కమీషన్ (FTC), ఇటీవల స్థాపించబడిన హెల్త్ అడ్వాన్స్‌డ్ రీసెర్చ్ ప్రాజెక్ట్స్ ఏజెన్సీ, హెల్త్‌కేర్ రీసెర్చ్ అండ్ క్వాలిటీ కోసం ఏజెన్సీ, మెడికేర్ మరియు మెడికేడ్ సెంటర్స్, డిపార్ట్‌మెంట్ ఆఫ్ హెల్త్ అండ్ హ్యూమన్ సర్వీసెస్ మరియు ఆఫీస్ ఫర్ సివిల్ ఉన్నాయి. హక్కులు (OCR).

కానీ వికర్సన్ మరింత చేయవలసి ఉందని చెప్పారు. కాగితం రాయడంలో చాలా కష్టమైన భాగం, “మన వద్ద లేని వాటిని ఊహించుకోవడం” అని వికర్సన్ చెప్పాడు.

ఇప్పటికే ఉన్న రెగ్యులేటరీ బాడీలపై ఆధారపడకుండా, సరిగ్గా పని చేయని వైద్య AI వ్యవస్థల యొక్క భద్రతా ఆడిట్‌లను ప్రారంభించడానికి NTSB వంటి స్వతంత్ర ఆడిటింగ్ బాడీని ఏర్పాటు చేయాలని పేపర్ ప్రతిపాదించింది.

“సాంకేతిక పాలనకు ఇది ప్రస్తుత సవాలు అని నేను భావిస్తున్నాను. 90ల నుండి, సాంకేతికత యొక్క ప్రభావాన్ని అంచనా వేసే సంస్థ నిజంగా లేదు,” వికర్సన్ జోడించారు. “టెక్నాలజీ అసెస్‌మెంట్ కార్యాలయం ఉండేది… డిజిటల్ యుగం ప్రారంభం కావడానికి ముందు ఈ కార్యాలయం ఉంది, కానీ ఫెడరల్ ప్రభుత్వం దానిని రద్దు చేయడానికి అనుమతించింది.”

స్టాన్‌ఫోర్డ్ లా స్కూల్‌లో ఇటీవల గ్రాడ్యుయేట్ అయిన సహ-రచయిత జాక్ హార్నెడ్, అభివృద్ధి చెందుతున్న సాంకేతికతలతో ప్రధాన సవాలు ఏమిటంటే సాంకేతిక అభివృద్ధి నియంత్రణను అధిగమిస్తుంది. “అయినప్పటికీ, AI సాంకేతికత యొక్క ప్రాముఖ్యత మరియు దాని వల్ల కలిగే సంభావ్య ప్రయోజనాలు మరియు నష్టాలు ముఖ్యంగా ఆరోగ్య సంరక్షణ రంగంలో నియంత్రణ ప్రయత్నాల కోలాహలానికి దారితీశాయి” అని హార్ండ్ చెప్పారు. “ఎఫ్‌డిఎ ఇక్కడ ప్రధాన ఆటగాడు అని స్పష్టంగా ఉంది మరియు AIపై వారి అభివృద్ధి చెందుతున్న స్థితిని వివరించడానికి వారు నిరంతరం మార్గదర్శకత్వం మరియు శ్వేతపత్రాలను జారీ చేశారు. అయినప్పటికీ, HIPAA గోప్యత కోసం OCR అమలు కూడా దృష్టి సారించడానికి ఒక ముఖ్యమైన ప్రాంతంగా ఉంటుంది. [Health Insurance Portability and Accountability Act] వైపు మరియు FTC HIPAA పరిధిలో లేని ఎంటిటీలకు వ్యతిరేకంగా గోప్యతా ఉల్లంఘనలపై కఠినంగా వ్యవహరిస్తాయి. ”

AI యొక్క సురక్షితమైన మరియు విశ్వసనీయమైన అభివృద్ధిపై ఇటీవలి వైట్ హౌస్ ఎగ్జిక్యూటివ్ ఆర్డర్ 14110 మరియు క్యాప్‌స్టోన్ EU AI చట్టంతో సహా యూరోపియన్ యూనియన్ (EU)లో నియంత్రణ కార్యకలాపాలు వంటి పరిణామాలతో ఫీల్డ్ వేగంగా అభివృద్ధి చెందుతోందని హార్నెడ్ చెప్పారు. అని ఇది పూర్తయ్యే దశకు చేరుకుంది. “ఈ ముఖ్యమైన సాంకేతిక పరిజ్ఞానాన్ని అభివృద్ధి చేయడం మరియు క్రమబద్ధీకరించడం అనేది ఆవిష్కరణను అరికట్టకుండా భద్రతను నిర్ధారించే విధంగా చూడడానికి ఇది ఖచ్చితంగా ఒక ఉత్తేజకరమైన సమయం” అని ఆయన చెప్పారు.

రెగ్యులేటరీ చర్యతో పాటు, ఈ పేపర్ సురక్షితమైన వైద్య AI సాధనాల కోసం ప్రోత్సాహకాలను సృష్టించడానికి ఇతర అవకాశాలను సూచిస్తుంది, పే-ఫర్-పెర్ఫార్మెన్స్ ప్రోగ్రామ్‌లు, బీమా సంస్థలు మెరుగైన పనితీరు కోసం ఆసుపత్రులకు రివార్డ్ ఇస్తాయి. అయితే, ఈ విధానానికి అదనపు పర్యవేక్షణ అవసరమని పరిశోధకులు అంగీకరిస్తున్నారు). న్యాయంగా ఉండండి).

వైద్య AI కోసం వర్కింగ్ రెగ్యులేటరీ సిస్టమ్‌ను రూపొందించడానికి ఎంత సమయం పడుతుందని పరిశోధకులు భావిస్తున్నారు? NTSB మరియు FAA వ్యవస్థలు కాంగ్రెస్ చేత అనేక దశాబ్దాలుగా సృష్టించబడ్డాయి.”

ఈ కాగితం AI నియంత్రణ పజిల్‌లో భాగం అవుతుందని బోండి-కెల్లీ ఆశిస్తున్నారు. ఆమె మనస్సులో, “కలల దృశ్యం ఏమిటంటే, మనమందరం ఈ పేపర్‌ని చదివి, భవిష్యత్తులో AI సంభవించే సామర్థ్యాన్ని సృష్టించడానికి ఏవియేషన్ నుండి నేర్చుకున్న ఉపయోగకరమైన పాఠాలను అన్వయించగలము కాబట్టి ప్రేరణ పొందుతాము.” ఇది తీవ్రంగా నిరోధించడంలో సహాయపడుతుంది. హాని.”

ఘసేమి, షా, బోండి-కెల్లీ మరియు సున్నెమాన్‌లతో పాటు, అధ్యయనం యొక్క సహ రచయితలలో MIT సీనియర్ రీసెర్చ్ ఫెలో లియో ఆంథోనీ సెరి, మాజీ పోస్ట్‌డాక్ థామస్ హార్ట్విగ్‌సెన్ మరియు స్వామి డా. మిస్టర్ శంకరనారాయణన్ ఉన్నారు. MIT CSAIL METEOR ఫెలోషిప్, క్వాంటా కంప్యూటింగ్, వోక్స్‌వ్యాగన్ ఫౌండేషన్, నేషనల్ ఇన్‌స్టిట్యూట్స్ ఆఫ్ హెల్త్, హెర్మాన్ LF వాన్ హెల్మ్‌హోల్ట్జ్ కెరీర్ డెవలప్‌మెంట్ ప్రొఫెసర్‌షిప్ మరియు CIFAR అజ్రిలీ గ్లోబల్ స్కాలర్ అవార్డు ద్వారా ఈ పరిశోధనకు కొంత భాగం నిధులు అందించబడ్డాయి.