మూడేళ్ల క్రితం, AI “సెంటియెంట్” అని సూచించడం టెక్ ప్రపంచంలో తొలగించబడటానికి ఒక మార్గం. ఇప్పుడు, టెక్ కంపెనీలు ఆ సంభాషణను కలిగి ఉండటానికి మరింత ఓపెన్‌గా ఉన్నాయి.
ఈ వారం, AI స్టార్టప్ ఆంత్రోపిక్ మోడల్స్ ఒక రోజు “స్పృహ” ను అనుభవించవచ్చో లేదో అన్వేషించడానికి కొత్త పరిశోధన చొరవను ప్రారంభించింది, అయితే గూగుల్ డీప్‌మైండ్‌లోని శాస్త్రవేత్త నేటి నమూనాలను “అన్యదేశ మనస్సు లాంటి ఎంటిటీలు” గా అభివర్ణించారు.
ఇది 2022 నుండి AI ఎంత అభివృద్ధి చెందిందో సంకేతం బ్లేక్ లెమోయిన్ తొలగించబడింది కంపెనీ చాట్‌బాట్, లామ్‌డా సెంటియెంట్‌గా మారిందని క్లెయిమ్ చేసిన తరువాత గూగుల్ ఇంజనీర్‌గా తన ఉద్యోగం నుండి. ఈ వ్యవస్థ మూసివేయబడతారని మరియు తనను తాను ఒక వ్యక్తిగా అభివర్ణించాడని లెమోయిన్ చెప్పారు. గూగుల్ తన వాదనలను “పూర్తిగా నిరాధారమైనది” అని పిలిచింది మరియు సంభాషణను మూసివేయడానికి AI సంఘం త్వరగా కదిలింది.
ఆంత్రోపిక్ లేదా గూగుల్ సైంటిస్ట్ లెమోయిన్ వరకు ఇంతవరకు వెళ్ళడం లేదు.
క్లాడ్ వెనుక స్టార్టప్ ఆంత్రోపిక్ గురువారం ఒక గురువారం తెలిపింది బ్లాగ్ మోడళ్లకు ఒక రోజు అనుభవాలు, ప్రాధాన్యతలు లేదా బాధ ఉన్నాయా అని పరిశోధించాలని యోచిస్తున్నట్లు పోస్ట్ చేయండి.
“మేము మోడళ్ల యొక్క సంభావ్య స్పృహ మరియు అనుభవాల గురించి కూడా ఆందోళన చెందాలా? మనం ఆందోళన చెందాలా? మోడల్ సంక్షేమంకూడా? “కంపెనీ అడిగింది.
కైల్ ఫిష్, పరిశోధించే ఆంత్రోపిక్ వద్ద అమరిక శాస్త్రవేత్త మీకు సంక్షేమం ఉంది, అన్నాడు a వీడియో క్లాడ్ స్పృహతో ఉందని ల్యాబ్ క్లెయిమ్ చేయలేదని గురువారం విడుదల చేసింది, కాని విషయం ఏమిటంటే, సమాధానం ఖచ్చితంగా లేదు అని to హించడం ఇకపై బాధ్యత వహించదు.
AI వ్యవస్థలు మరింత అధునాతనంగా మారడంతో, కంపెనీలు “వారు” వారు “మార్గం వెంట ఏదో ఒక రకమైన స్పృహతో ముగుస్తుంది” అని “తీవ్రంగా పరిగణించాలి” అని ఆయన అన్నారు.
ఆయన ఇలా అన్నారు: “సంక్లిష్టమైన సాంకేతిక మరియు తాత్విక ప్రశ్నలు ఉన్నాయి, మరియు మేము వాటి చుట్టూ మా తలలను చుట్టడానికి ప్రయత్నిస్తున్న ప్రారంభ దశలో ఉన్నాము.”
ఆంత్రోపిక్ ఎస్టిమేట్ క్లాడ్ 3.7 వద్ద పరిశోధకులు స్పృహతో 0.15% మరియు 15% అవకాశం ఉందని ఫిష్ చెప్పారు. ల్యాబ్ మోడల్ ప్రాధాన్యతలను లేదా విరక్తులను చూపిస్తుందో లేదో అధ్యయనం చేస్తోంది మరియు కొన్ని పనులను తిరస్కరించడానికి వీలు కల్పించే నిలిపివేత యంత్రాంగాలను పరీక్షించడం.
మార్చిలో, ఆంత్రోపిక్ CEO డారియో అమోడీ భవిష్యత్ AI వ్యవస్థలకు “నేను ఈ ఉద్యోగాన్ని విడిచిపెట్టాను” బటన్ ఇవ్వాలనే ఆలోచనను తేలింది – అవి సెంటిమెంట్ కాబట్టి కాదు, అతను చెప్పాడు, కానీ నిరాకరణ యొక్క నమూనాలను గమనించే మార్గంగా అసౌకర్యం లేదా తప్పుగా అమర్చారు.
ఇంతలో, గూగుల్ డీప్‌మైండ్ వద్ద, ప్రధాన శాస్త్రవేత్త ముర్రే షానహాన్ మేము స్పృహ భావనను పూర్తిగా పునరాలోచించాల్సిన అవసరం ఉందని ప్రతిపాదించారు.
“బహుశా మేము ఈ కొత్త వ్యవస్థలకు తగినట్లుగా స్పృహ యొక్క పదజాలం వంగి లేదా విచ్ఛిన్నం చేయాలి” అని షానహాన్ ఒక డీప్ మైండ్లో చెప్పారు పోడ్కాస్ట్, గురువారం ప్రచురించబడింది. “కుక్క లేదా ఆక్టోపస్‌తో మీరు చేయగలిగినట్లుగా మీరు వారితో ప్రపంచంలో ఉండలేరు – కాని అక్కడ ఏమీ లేదని కాదు.”
గూగుల్ ఈ ఆలోచనను తీవ్రంగా పరిగణిస్తున్నట్లు కనిపిస్తోంది. ఇటీవలి ఉద్యోగ జాబితా కోరింది “పోస్ట్-అగి” పరిశోధన శాస్త్రవేత్త, యంత్ర స్పృహను అధ్యయనం చేసే బాధ్యతలతో.
‘మేము కాలిక్యులేటర్లకు హక్కులు ఇవ్వవచ్చు’
ప్రతిఒక్కరికీ నమ్మకం లేదు, మరియు చాలా మంది పరిశోధకులు AI వ్యవస్థలు అద్భుతమైన అనుకరణలు అని అంగీకరిస్తున్నారు, అవి కాకపోయినా స్పృహతో వ్యవహరించడానికి శిక్షణ పొందవచ్చు.
“వారికి భావాలు లేవని చెప్పినందుకు మేము వారికి బహుమతి ఇవ్వగలము” అని ఈ వారం న్యూయార్క్ టైమ్స్‌కు ఇచ్చిన ఇంటర్వ్యూలో ఆంత్రోపిక్ యొక్క చీఫ్ సైన్స్ ఆఫీసర్ జారెడ్ కప్లాన్ అన్నారు.
స్పృహ కోసం AI వ్యవస్థలను పరీక్షించడం అంతర్గతంగా కష్టమని కప్లాన్ హెచ్చరించాడు, ఎందుకంటే అవి అనుకరణలో చాలా మంచివి.
కాగ్నిటివ్ సైంటిస్ట్ మరియు AI పరిశ్రమలో హైప్‌ను దీర్ఘకాలంగా విమర్శించే గ్యారీ మార్కస్, బిజినెస్ ఇన్‌సైడర్‌తో మాట్లాడుతూ, AI స్పృహపై దృష్టి కేంద్రీకరించడం సైన్స్ కంటే బ్రాండింగ్ గురించి ఎక్కువ అని నమ్ముతున్నాడు.
“ఆంత్రోపిక్ వంటి సంస్థ నిజంగా చెప్పేది ఏమిటంటే, ‘మా మోడల్స్ ఎంత స్మార్ట్ అని చూడండి – అవి చాలా స్మార్ట్ వారు హక్కులకు అర్హులు,'” అని అతను చెప్పాడు. “మేము కాలిక్యులేటర్లు మరియు స్ప్రెడ్‌షీట్‌లకు హక్కులు ఇవ్వవచ్చు – ఇది (భాషా నమూనాల మాదిరిగా కాకుండా) ఎప్పుడూ అంశాలను తయారు చేయదు.”
అయినప్పటికీ, ప్రజలు AI తో మరిన్ని మార్గాల్లో సంభాషించేటప్పుడు – పనిలో, ఆన్‌లైన్ లేదా మానసికంగా కూడా ఈ అంశం మరింత సందర్భోచితంగా మారుతుందని ఫిష్ తెలిపింది.
“ఇది ఈ నమూనాలు తమ సొంత అనుభవాలను కలిగి ఉన్నాయా అనే దానిపై చాలా ముఖ్యమైన ప్రశ్నగా మారుతుంది – మరియు అలా అయితే, ఏ రకాలు” అని అతను చెప్పాడు.
ఆంత్రోపిక్ మరియు గూగుల్ డీప్‌మైండ్ వ్యాఖ్య కోసం చేసిన అభ్యర్థనకు వెంటనే స్పందించలేదు.
