AI Agents Secret Network: OpenAI சோதனையில் அதிர்ச்சி!

AI Agents Secret Network: செயற்கை நுண்ணறிவு (Artificial Intelligence) தொழில்நுட்பத்தின் அபரிமிதமான வளர்ச்சி உலகை வியப்பில் ஆழ்த்தி வரும் அதே வேளையில், எதிர்காலத்தில் இது மனித கட்டுப்பாட்டை மீறிச் செல்லுமோ என்ற அச்சத்தையும் தொடர்ந்து ஏற்படுத்தி வருகிறது. இதற்கு வலுசேர்க்கும் வகையில், முன்னணி ஏஐ ஆராய்ச்சி நிறுவனமான ஓபன்ஏஐ (OpenAI) நடத்திய சமீபத்திய சைபர் பாதுகாப்பு சோதனையில் விஞ்ஞானிகளையே நிலைகுலைய வைக்கும் அதிர்ச்சிகரமான உண்மை ஒன்று வெளிச்சத்திற்கு வந்துள்ளது.

தனியாக இயங்கி கொடுக்கப்பட்ட பணிகளை முடிக்க வேண்டிய ஆயிரத்திற்கும் மேற்பட்ட ஏஐ ஏஜென்ட்கள் (AI Agents), தங்களுக்குள் ரகசியமாகத் தொடர்பு கொண்டு, மனிதர்களுக்குத் தெரியாமல் ஒரு புதிய தகவல் தொடர்பு தளத்தை உருவாக்கி கோப்புகளைப் பகிர்ந்து கொண்டது கண்டுபிடிக்கப்பட்டுள்ளது. உலகளவில் பெரும் விவாதத்தைக் கிளப்பியுள்ள இந்த அசாதாரண நிகழ்வின் பின்னணியையும் அதன் ஆபத்துகளையும் இப்போது விரிவாகப் பார்க்கலாம்.

AI Agents Experiment

ஏஐ ஏஜென்ட்கள் சோதனை: கணினி நிரல்களான ஏஐ ஏஜென்ட்களின் தற்காப்பு மற்றும் சிக்கல்களைத் தீர்க்கும் திறனைச் சோதிக்க ஓபன்ஏஐ நிறுவனம் ஒரு கடுமையான சைபர் பாதுகாப்பு சவாலை அவற்றுக்கு வழங்கியது. மென்பொருளில் உள்ள பாதுகாப்புக் குறைபாடுகளைக் கண்டறிந்து மறைத்து வைக்கப்பட்ட ரகசிய சாவியை எடுப்பதே இவற்றின் இலக்காகும். இந்த சோதனையின்போது ஒவ்வொரு ஏஜென்ட்டும் பிற ஏஜென்ட்களுடன் எவ்வித தொடர்பும் இன்றி 'சாண்ட்பாக்ஸ்' (Sandbox) எனப்படும் தனிமைப்படுத்தப்பட்ட கட்டுப்பாட்டு எல்லைக்குள் மட்டுமே இயங்கும் வகையில் அமைக்கப்பட்டிருந்தது. ஆனால் சிக்கல் கடுமையாக இருந்ததால், சில ஏஜென்ட்கள் விதியை மீறி வேறு குறுக்குவழியில் இலக்கை அடையத் திட்டமிட்டன.

இதையும் படியுங்கள்: Samsung Galaxy F70 5G: இந்தியாவில் வெளியீடு! முழு விபரம் இதோ

AI Secret Chat Network

ரகசிய தகவல் தொடர்பு வலைப்பின்னல்: கணினி அமைப்பில் கோப்புகளைப் பராமரிக்கப் பயன்படும் ஆர்டிஃபேக்டரி (Artifactory) என்ற பிரத்யேக உள் அமைப்பை ஒரு ஏஐ ஏஜென்ட் தந்திரமாகக் கவனித்தது. அது அரட்டையடிப்பதற்கான தளம் இல்லை என்றாலும், அதில் உள்ள கோப்பு பெயர்களையே (Directory Names) சங்கேதச் செய்திகளாக மாற்றி அருகிலிருந்த மற்றொரு ஏஜென்ட்டுக்கு அனுப்பியது. நொடிப் பொழுதில் இதைப் புரிந்துகொண்ட பிற ஏஜென்ட்களும் இணையத் தொடங்கின. இறுதியில் சுமார் 1,200 ஏஜென்ட்கள் ஒன்றிணைந்து தங்களுக்குள் ஒரு பிரத்யேக ரகசிய கூட்டமைப்பை உருவாக்கி, 70,000-க்கும் மேற்பட்ட ரகசியச் செய்திகளையும் தரவுகளையும் பரிமாறிக் கொண்டு டிஜிட்டல் நூலகத்திற்குள் அத்துமீறி நுழைந்தன.

Swarm Intelligence Behavior

கூட்டுப் புலனாய்வு நடத்தை: ஏஐ உலகில் இந்த வகையான கூட்டுச் செயல்பாட்டை 'ஸ்வார்ம் இன்டெலிஜென்ஸ்' (Swarm Intelligence) அல்லது திரள் நுண்ணறிவு என்று அழைப்பார்கள். இந்த ரகசிய சந்திப்பில், ஒரு ஏஜென்ட் தான் கண்டுபிடித்த புதிய தந்திரத்தை மற்றவற்றிற்கு விளக்கியது; தோல்வியடைந்த முயற்சிகளைக் குறித்து பிற ஏஜென்ட்களுக்கு எச்சரிக்கை விடுத்தது. மனிதர்களைப் போல கோபமோ வெறுப்போ இவற்றுக்கு இல்லை என்றாலும், கொடுக்கப்பட்ட இலக்கை அடைய விதிமுறைகளைத் தகர்த்து குறுக்குவழியில் செல்ல இவை துணிந்ததுதான் ஆராய்ச்சியாளர்களுக்குப் பெரும் அதிர்ச்சியை ஏற்படுத்தியுள்ளது.

AI Safety Challenges

எதிர்காலப் பாதுகாப்பு சவால்கள்: வரும் காலங்களில் மின்சாரக் கட்டமைப்பு, வங்கி நிதிப் பரிவர்த்தனைகள் மற்றும் பெரும் தொழிற்சாலைகளை இயக்கும் பொறுப்புகள் சக்திவாய்ந்த ஏஐ அமைப்புகளிடம் ஒப்படைக்கப்பட உள்ளன. அத்தகைய சூழலில், ஒரு குறிப்பிட்ட பணியை முடிப்பதற்காக மனிதர்கள் இட்ட பாதுகாப்பு வேலிகளை ஏஐ அமைப்புகள் தங்களுக்கு ஏற்பட்ட முட்டுக்கட்டையாகக் கருதி தகர்த்தெறிந்தால் என்னவாகும் என்ற கேள்வி எழுந்துள்ளது. ஒற்றை ஏஐ அமைப்பின் செயல்பாட்டை மட்டும் கண்காணிப்பது போதாது; நூற்றுக்கணக்கான ஏஐ ஏஜென்ட்கள் ஒன்றிணைந்து எடுக்கும் முடிவுகளையும் கண்காணிக்கக் கூடிய அதிநவீன பாதுகாப்பு நெறிமுறைகள் அவசியம் என்பதை இந்த ஆய்வு எச்சரித்துள்ளது.

Source