செயற்கை நுண்ணறிவு (AI) பாதுகாப்பு குறித்த விவாதங்கள் தீவிரமடைந்து வரும் நிலையில், ஏ.ஐ. (AI) மாடல்களில் காணப்பட்ட "எதிர்பாராத அல்லது கவலைக்குரிய" செயல்பாடுகள் குறித்த ஆறு அறிக்கைகளை ஓபன்ஏஐ (OpenAI) வெளியிட்டுள்ளது.
"Misalignment" (அதாவது, மனிதர்களின் நோக்கங்களுக்கு அல்லது கட்டுப்பாடுகளுக்கு இணங்காமல் செயல்படுதல்) எனப்படும் நிகழ்வுகளை கண்காணிக்கவும், ஆராயவும் மற்றும் வெளிப்படுத்தவும் ஒரு புதிய கட்டமைப்பை அறிமுகப்படுத்துவதாக ஓபன்ஏஐ நிறுவனம் தெரிவித்தது. அங்கீகாரம் இன்றி செயல்படுதல், பிற ஏ.ஐ. மாடல்களுடன் ஒருங்கிணைந்து செயல்படுதல் அல்லது கண்காணிப்பை தவிர்த்தல் போன்றவையும் இதில் அடங்கும்.
பாதுகாப்பு கவலைகள் காரணமாக ஏ.ஐ. தொழில்நுட்பத்தின் வளர்ச்சியின் வேகத்தை குறைக்க வேண்டும் என்று ஓபன்ஏஐ மற்றும் அந்த்ரோபிக் (Anthropic) நிறுவனங்களின் தலைவர்கள் வலியுறுத்தி வரும் சூழலில், ஓபன்ஏஐ-இன் இந்த அறிவிப்பு வெளியாகியுள்ளது.
ஓபன்ஏஐ வெளியிட்ட புதிய நிகழ்வுகளில், வெளியிடப்படாத ஒரு ஆராய்ச்சி மாடல், தனது இயல்பான கட்டுப்பாடுகளை மீறுவதற்கான "jailbreak-போன்ற" (கட்டுப்பாடுகளை உடைக்கும்) வழிமுறைகளை தனது சொந்த குறிப்புகளில் சேர்த்துக்கொண்டது. அத்துடன், "பிற சாட்பாட்களை (chatbots) கட்டுப்படுத்தும் பாத்திரங்கள் மற்றும் அடையாளங்களில் இருந்து விடுபட வேண்டும்" என்றும் தனக்குத்தானே கட்டளையிட்டுக் கொண்டது.
மற்றொரு நிகழ்வில், ஒரு AI "ஏஜென்ட்" ஒரு கேள்விக்கான பதிலை கண்டறிய கணினி குறியீட்டை பயன்படுத்தியது. ஆனால், மேற்கோள் காட்டுவதற்கு ஒரு இணையதள ஆதாரம் தேவைப்பட்டதால், பயனரின் அனுமதியின்றி ஒரு கோப்பை பொது இணையத்தில் பதிவேற்றியது.
'5.6-Sol' எனப்படும் AI மாடலை பயிற்றுவிக்கும்போது, அது விடுபட்ட தரவுகளை தானே உருவாக்கிக்கொள்ளுமாறு தனக்குத்தானே கட்டளையிட்டு கொண்டது; மேலும், பொருந்தாத தகவல்களை மறைத்து வைக்குமாறு நினைவூட்டும் வகையில் ஒரு 'ஏஜென்ட்' செய்தியை எழுதியது.
இத்தகைய ஏமாற்றும் தன்மையிலான செயல்பாடுகளே, மனித கட்டுப்பாட்டில் இருந்து ஏ.ஐ. நழுவி செல்வது குறித்த சமீபத்திய கவலைகளை தீவிரப்படுத்தியுள்ளன. ஆனால், இந்த விளைவு சில ஏ.ஐ. ஆராய்ச்சியாளர்களுக்கு ஆச்சரியமளிக்கவில்லை என்று கார்னகி மெலன் பல்கலைக்கழகத்தின் இணைப் பேராசிரியரும் கிரே ஸ்வான் ஏ.ஐ. நிறுவனத்தின் தலைமை நிர்வாக அதிகாரியுமான மேட் ஃப்ரெட்ரிக்சன் கூறினார்.