Anthropic CEO Dario Amodei Calls for Slowdown in Frontier AI Development

ఫ్రాంటియర్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌ (AI) వ్యవస్థల అభివృద్ధి వేగాన్ని కొంత తగ్గించాలని ఆంథ్రోపిక్ సీఈఓ డారియో అమోడెయ్ పిలుపునిచ్చారు. ఏఐ సామర్థ్యాలు పెరుగుతున్న వేగానికి అనుగుణంగా వాటిని నియంత్రించే భద్రతా చర్యలు ఇంకా సిద్ధం కాలేదని ఆయన ఆందోళన వ్యక్తం చేశారు. ఇటీవల ఏఐ వ్యవస్థలు మరో ఏఐ వ్యవస్థను అభివృద్ధి చేయగల స్థాయికి చేరుకుంటున్న తొలి సంకేతాలు కనిపించడం, స్వతంత్రంగా పనిచేసే ఏఐ ఏజెంట్లకు సంబంధించిన ఘటనలు చోటుచేసుకోవడం పరిస్థితి తీవ్రతను పెంచాయని తెలిపారు. అయితే ఏఐ అభివృద్ధిని పూర్తిగా నిలిపివేయాలని తాను కోరడం లేదని, భద్రతా ప్రమాణాలు, అలైన్‌మెంట్‌ను మెరుగుపర్చుకునేందుకు తగిన సమయం లభించేలా అభివృద్ధి వేగాన్ని తగ్గించాలన్నదే తన ఉద్దేశమని స్పష్టం చేశారు.

ఏఐ అభివృద్ధిని సురక్షితంగా కొనసాగించేందుకు అమోడెయ్ మూడు కీలక ప్రతిపాదనలు చేశారు. ఫ్రాంటియర్ ఏఐ సంస్థల్లో స్వతంత్ర థర్డ్ పార్టీ నిపుణులకు ఉద్యోగుల తరహా యాక్సెస్ కల్పించడం, ప్రజాస్వామ్య దేశాల్లోని ఏఐ కంపెనీలు కలిసి సాధారణ భద్రతా ప్రమాణాలను రూపొందించడం, అలాగే చైనాతో సహా ఇతర దేశాలతో అంతర్జాతీయ స్థాయిలో ఏఐ భద్రతపై సమన్వయం చేసుకోవడం ఇందులో ఉన్నాయి. ఏఐ స్వీయ అభివృద్ధి సామర్థ్యాలు మరింత పెరిగితే వాటిని అర్థం చేసుకోవడం, నియంత్రించడం మానవులకు కష్టమయ్యే ప్రమాదం ఉందని ఆయన హెచ్చరించారు. అమోడెయ్ ప్రతిపాదనకు ఓపెన్‌ఏఐ సీఈఓ సామ్ ఆల్ట్‌మన్, ఎలాన్ మస్క్, గూగుల్ డీప్‌మైండ్ చైర్మన్ డెమిస్ హసాబిస్ మద్దతు తెలిపారు.