.png){kind=small}
 |
| படம் உதவி: Google Gemini AI |
சாட்ஜிபிடி (ChatGPT), கிளாட் (Claude), ஜெமினி (Gemini) அல்லது க்ரூக் (Grok) போன்ற ஏஐ சாட்பாட்களிடம் (AI Chatbots), நீங்கள் ஒரு கேள்வியை டைப் செய்து கேட்கும் போது, அந்த சாட்பாட் உங்கள் கேள்விக்கு நேரடியாக பதிலளிக்கிறது என்று நீங்கள் நினைக்கலாம். ஆனால், அது உண்மை அல்ல.
ஏஐ சாட்பாட்கள் உங்களுக்கு வழங்கும் ஒவ்வொரு பதிலுக்கு பின்னாலும் பெரும்பாலான பயனர்கள் ஒருபோதும் காணாத, கண்ணுக்கு தெரியாத பல வழிமுறைகள் (Invisible Algorithms) உள்ளன. வாஷிங்டன் போஸ்ட் (Washington Post) நடத்திய சமீபத்திய ஆய்வு ஒன்று - இது குறித்த விபரங்களை வெளிப்படுத்தி உள்ளது. ஏஐ உடனான உரையாடல்களுக்கு பின்னால் சில மறைக்கப்பட்ட விதிகள் மற்றும் வழிமுறைகள் (Hidden Rules and Instructions) இருப்பதை கண்டறிந்துள்ளது.
செயற்கை நுண்ணறிவு (AI) உலகை இயக்கும் முன்னணி நிறுவனங்களின் சாட்பாட்கள் எவ்வாறு செயல்படுகின்றன, எந்த மாதிரியான உணர்வுப்பூர்வமான தலைப்புகளுக்கு (Sensitive Topics) பதிலளிக்க மறுக்கின்றன என்பதை இந்த வாஷிங்டன் போஸ்ட் ஆய்வு அறிக்கை வெளிச்சத்திற்கு கொண்டு வந்துள்ளது. மேலும், பயனர்களுடன் பேசும்போது அவை பயன்படுத்தும் தொனியை (Tone of Voice) மாற்றுவதற்கும், ஆயிரக்கணக்கான வார்த்தைகள் கொண்ட மறைக்கப்பட்ட "சிஸ்டம் ப்ராம்ப்ட்களை" (Hidden System Prompts) இந்த நிறுவனங்கள் எவ்வாறு பயன்படுத்துகின்றன என்பதும் இதன் மூலம் தெளிவாகியுள்ளது.
Hidden AI Rules & System Prompts
ஏஐ மென்பொருட்களின் திரைமறைவில் இயங்கும் ரகசியக் கட்டுப்பாடுகள்: நாம் கேட்கும் கேள்விகளுக்கு ஏஐ சாட்பாட்கள் நேரடியாகப் பதிலளிப்பதாகப் பயனர்கள் நினைப்பது வெறும் மாயை மட்டுமே. உண்மையில், நீங்கள் உங்களது கணினியிலோ அல்லது மொபைலிலோ ஒரு மெசேஜை டைப் செய்வதற்கு முன்பே, அந்த ஏஐ மாடலுக்குத் தங்களை உருவாக்கிய நிறுவனங்கள் வழங்கிய பல அடுக்கு நிபந்தனைகளுடன் (Set of Instructions) தான் ஒவ்வொரு உரையாடலும் தொடங்குகிறது.
இவற்றைத் தான் தொழில்நுட்ப உலகில் 'சிஸ்டம் ப்ராம்ப்ட்ஸ்' (System Prompts) என்று அழைக்கிறார்கள். ஏஐ உள்கட்டமைப்பை ஆராயும் டெட்ரேட் (Tetrate) நிறுவனத்தின் கருத்துப்படி, பயனரின் எந்தவொரு தொடர்பும் தொடங்குவதற்கு முன்பே லார்ஜ் லேங்குவேஜ் மாடல்களுக்கு (LLMs - Large Language Models) வழங்கப்படும் மிக முக்கியமான முதன்மைக் கட்டளைகள் தான் இவை.
இந்த ரகசியக் கட்டளைகள் தான் அந்த ஏஐ சாட்பாட்டின் ஒட்டுமொத்த ரோல் (Role), பிஹேவியர் (Behavior) மற்றும் பதிலளிக்கும் பண்புகளை (Response Metrics) இறுதி செய்கின்றன. சாட்பாட்டின் அடையாளம் (Identity), பாதுகாப்பு எல்லைகள் (Safety Guards), வடிவமைப்பு மற்றும் கொள்கை பாதுகாப்பு வரம்புகள் என அனைத்தையும் இந்த ப்ராம்ப்ட்கள் தான் கட்டுப்படுத்துகின்றன.
சுருக்கமாகச் சொன்னால், சாட்பாட்கள் எந்த எல்லையைத் தாண்டிப் பேசக் கூடாது என்பதை இந்த சிஸ்டம் Prompt-கள் தான் தீர்மானிக்கின்றன. வாசகர்களாகிய நாம் வெறும் உரையாடல் திரையை (Conversation Interface) மட்டுமே பார்க்கும்போது, அந்த சாட்பாட் தனக்கு வகுக்கப்பட்ட கடுமையான பாதுகாப்பு வளையத்திற்குள் (Guardrails) மட்டுமே இயங்கிக் கொண்டிருக்கிறது.
இதுவும் படியுங்கள்: இனி 28 நாட்கள் ரீசார்ஜ் தொல்லை இல்லை.. 90 நாட்கள் வேலிடிட்டி.. அன்லிமிடெட் 5ஜி உடன் ஜியோவின் மாஸ் பிளான்!
Washington Post AI Investigation
வாஷிங்டன் போஸ்ட் ஆய்வில் கண்டறியப்பட்ட மற்ற விஷயங்கள்: முன்னணி செயற்கை நுண்ணறிவு நிறுவனங்கள் பயன்படுத்தும், லீக் ஆன, எக்ஸ்ட்ராக்ட் செய்யப்பட்ட (Extracted) மற்றும் பொதுவில் கிடைக்கக்கூடிய சிஸ்டம் ப்ராம்ப்ட்களை ஆய்வு செய்வதன் மூலம், இந்த மறைக்கப்பட்ட வழிமுறைகள் குறித்த ஒரு பார்வையை வாஷிங்டன் போஸ்ட்டின் ஆய்வு வழங்கியது.
அரசியல் விவாதங்கள் (Political Debates) மற்றும் பதிப்புரிமை பெற்ற கன்டென்ட்கள் (Copyrighted Content) முதல் உணர்ச்சிப்பூர்வமான தொனி மற்றும் பயனர் ஈடுபாடு வரை அனைத்தையும் நிர்வகிக்கும் விரிவான விதிகளை நிறுவனங்கள் உட்பொதித்துள்ளன என்பதை இந்த ஆய்வின் முடிவுகள் காட்டின. சில வழிமுறைகள் மிகவும் நடைமுறைக்கு உகந்ததாக தோன்றுகின்றன. மற்றவை வியக்கத்தக்க வகையில் குறிப்பிட்டவையாக (Surprisingly Specific) தோன்றலாம் என்றும் இந்த ஆய்வின் முடிவு கூறுகிறது.
இந்த ஆய்வில் எடுத்துக்காட்டப்பட்ட உதாரணங்களின் படி, ஆந்த்ரோபிக்கின் (Anthropic) கிளாட் மென்பொருளானது, பதிப்புரிமை பெற்ற பாடல் வரிகளை மீண்டும் உருவாக்குவதை தடுப்பதை நோக்கமாக கொண்ட கடுமையான வழிமுறைகளை கொண்டுள்ளது. அதே நேரத்தில், ஓப்பன்ஏஐ-யின் (OpenAI) கோடிங் அசிஸ்டென்ட் ஆன கோடெக்ஸ் (Codex) ஆனது பயனரின் கோரிக்கைக்கு முற்றிலும் பொருத்தமானதாக இருந்தாலன்றி, கோப்லின்ஸ் (Goblins), ட்ரோல்கள் (Trolls), ரக்கூன்கள் (Raccoons) அல்லது அதுபோன்ற உயிரினங்களை பற்றி விவாதிக்க வேண்டாம் என்று கூறும் வழிமுறைகளை கொண்டிருப்பதாக கூறப்படுகிறது.
