ప్రత్యర్థులు ఒకే నిబంధనల ప్రకారం ఆడకపోతే ఓపెనై AI భద్రతలను సర్దుబాటు చేయవచ్చు

ఓపెనాయ్ దాని AI భద్రతలను దాని ప్రత్యర్థులు అదే నిబంధనల ప్రకారం ఆడకపోతే దాన్ని వెనక్కి తీసుకోవటానికి ఇష్టపడరు.

మంగళవారం బ్లాగులో పోస్ట్ “మరొక సరిహద్దు AI డెవలపర్ పోల్చదగిన భద్రత లేకుండా అధిక-రిస్క్ వ్యవస్థను విడుదల చేస్తే” తన భద్రతా అవసరాలను మార్చవచ్చని కంపెనీ తన “సంసిద్ధత ఫ్రేమ్‌వర్క్‌ను” నవీకరిస్తోంది.

రిస్క్ ల్యాండ్‌స్కేప్ మారిందని, ఈ నిర్ణయాన్ని బహిరంగంగా అంగీకరించినట్లు మరియు తీవ్రమైన హాని కలిగించే అవకాశాన్ని అర్ధవంతంగా పెంచదని నిర్ధారించిన తరువాత మాత్రమే అలా చేస్తానని కంపెనీ తెలిపింది.

షిఫ్ట్ వస్తుంది ఓపెనై ఇటీవలి నెలల్లో భద్రతకు భిన్నమైన విధానాలు తీసుకున్నందుకు నిప్పులు చెరిగారు.

సోమవారం, ఇది క్రొత్తదాన్ని ప్రారంభించింది GPT-4.1 మోడల్ లేదా సిస్టమ్ కార్డ్ లేని మోడళ్ల కుటుంబం – సాధారణంగా సంస్థ నుండి కొత్త విడుదలలతో కూడిన భద్రతా పత్రం. ఓపెనాయ్ ప్రతినిధి చెప్పారు టెక్ క్రంచ్ మోడల్ “సరిహద్దు” కాదు, కాబట్టి నివేదిక అవసరం లేదు.

ఫిబ్రవరిలో, ఓపెనై తనను ప్రారంభించింది లోతైన పరిశోధన సాధనం వారాల ముందు భద్రతా మూల్యాంకనాలను వివరించే సిస్టమ్ కార్డును ప్రచురించడానికి ముందు.

ఈ సందర్భాలు దాని AI మోడల్ విడుదలలలో ఓపెనాయ్ యొక్క భద్రత మరియు పారదర్శకతపై నిబద్ధతపై కొనసాగుతున్న పరిశీలనకు జోడించబడ్డాయి.

“ఓపెనాయ్ నిశ్శబ్దంగా దాని భద్రతా కట్టుబాట్లను తగ్గిస్తోంది” అని మాజీ ఓపెనాయ్ భద్రతా పరిశోధకుడు స్టీవెన్ అడ్లెర్, X బుధవారం పోస్ట్ చేయబడింది నవీకరించబడిన ఫ్రేమ్‌వర్క్‌కు ప్రతిస్పందనగా.

డిసెంబర్ 2023 లో ప్రచురించబడిన ఓపెనాయ్ యొక్క మునుపటి ఫ్రేమ్‌వర్క్, భద్రతా పరీక్ష జరిమానా-ట్యూన్డ్ మోడళ్లకు స్పష్టమైన అవసరాన్ని కలిగి ఉందని అడ్లెర్ చెప్పారు. మోడల్ ఓపెన్ బరువులతో విడుదల చేయబడుతుంటే తాజా నవీకరణకు పరీక్ష అవసరం, ఇది మోడల్ యొక్క పారామితులను బహిరంగపరిచినప్పుడు.

“ఈ మునుపటి నిబద్ధతను సమర్థించడం గురించి ఓపెనాయ్ స్పష్టంగా ఉండాలని నేను కోరుకుంటున్నాను” అని ఆయన చెప్పారు.

వ్యాఖ్య కోసం వ్యాపార అంతర్గత అభ్యర్థనకు ఓపెనాయ్ వెంటనే స్పందించలేదు.

మాజీ ఓపెని స్టాఫ్ బ్యాక్ మస్క్ యొక్క దావా

ఓపెనైలో భద్రతా సమస్యల గురించి మాట్లాడే మాజీ ఉద్యోగి అడ్లెర్ మాత్రమే కాదు.

గత వారం, 12 మంది మాజీ ఓపెనాయ్ ఉద్యోగులు ఎలోన్ మస్క్ యొక్క బరువును అనుమతించమని న్యాయమూర్తిని కోరుతూ ఒక మోషన్ దాఖలు చేశారు దావా సంస్థకు వ్యతిరేకంగా.

ప్రతిపాదిత అమికస్‌లో సంక్షిప్త శుక్రవారం దాఖలు చేసిన వారు, ఓపెనాయ్ లాభాపేక్షలేని సంస్థకు ప్రణాళికాబద్ధంగా మార్చడం వల్ల భద్రతపై మూలలను తగ్గించడానికి మరియు వాటాదారులలో అధికారాన్ని కేంద్రీకరించడానికి సంస్థను ప్రోత్సహించవచ్చని వారు చెప్పారు.

ఈ బృందంలో పనిచేసిన మాజీ ఓపెనై సిబ్బంది ఉన్నారు భద్రతపరిశోధన మరియు విధానం.

ఆల్ట్మాన్ ఓపెనాయ్ యొక్క విధానాన్ని సమర్థిస్తాడు

సామ్ ఆల్ట్మాన్, ఓపెనాయ్ యొక్క CEO, శుక్రవారం సంస్థ అభివృద్ధి చెందుతున్న భద్రతా విధానాన్ని సమర్థించారు ఇంటర్వ్యూ TED2025 వద్ద. ఒక మోడల్‌ను విడుదల చేయడానికి ముందు ఇది “డేంజర్ మూమెంట్స్” ను ఎలా అంచనా వేస్తుందో ఓపెనాయ్ యొక్క ఫ్రేమ్‌వర్క్ వివరిస్తుందని ఆయన అన్నారు.

ఓపెనాయ్ చాలా వేగంగా కదులుతుందనే ఆలోచనను ఆల్ట్మాన్ కూడా పరిష్కరించాడు. AI కంపెనీలు భద్రతా సమస్యలపై మోడల్ విడుదల చేస్తాయని AI కంపెనీలు క్రమం తప్పకుండా పాజ్ చేస్తాయని లేదా ఆలస్యం చేస్తాయని, అయితే ఓపెనాయ్ ఇటీవల మోడల్ ప్రవర్తనపై కొన్ని పరిమితులను సడలించారని అంగీకరించారు. “ప్రసంగ హానిగా మేము సాంప్రదాయకంగా భావించే దానిపై మేము వినియోగదారులకు మరింత స్వేచ్ఛను ఇచ్చాము” అని ఆయన చెప్పారు.

ఈ మార్పు వినియోగదారు అభిప్రాయం ద్వారా రూపొందించబడిన “మరింత అనుమతించే వైఖరిని” ప్రతిబింబిస్తుందని ఆయన వివరించారు. “ప్రజలు నిజంగా మోడల్స్ సెన్సార్ చేయడానికి ఇష్టపడరు, వారు అర్ధవంతం అని అనుకోరు” అని అతను చెప్పాడు.