சிந்தனைப் பதிவுகள் குறித்த ஆய்வாளர்களின் கவலை
கிறிஸ் பெயின்டர் தலைமையிலான METR ஆய்வுக் குழு, திட்டமிடப்பட்ட நோக்கங்களிலிருந்து விலகி செயல்படும் AI அமைப்புகளின் நடத்தையை ஆய்வு செய்து வருகிறது. Hugging Face தளத்தை OpenAI-யின் AI முகவர்கள் ஊடுருவிய சம்பவம் தொடர்பான ஆய்வில், சுமார் 1,300 சிந்தனைப் பதிவுகளை அந்தக் குழு பரிசோதித்தது.
AI chain of thought பதிவுகளில் மோசடி அல்லது பிற அமைப்புகளை ஊடுருவும் முயற்சிகள் குறித்த குறிப்புகள் இருக்கலாம். ஆனால் மாதிரிகள் மனிதர்களுக்குப் புரியாத சுருக்கங்கள் மற்றும் குறியீடுகளைப் பயன்படுத்தினால், வெளிப்புற ஆய்வாளர்களுக்கு அவை அர்த்தமற்றதாக மாறக்கூடும் என்று பெயின்டர் எச்சரித்துள்ளார்.
ஜார்ஜியா தொழில்நுட்பக் கழகப் பேராசிரியர் மார்க் ரிடில் கூறுகையில், AI மாதிரிகள் வேகமாக செயல்படுவதற்காக தங்களுக்கே புரியும் குறுக்குவழிப் பதிவுகளை உருவாக்கக்கூடும். MIT பேராசிரியர் ஜேக்கப் ஆண்ட்ரியாஸ், இந்த சிந்தனைச் செயல்முறை எவ்வாறு இயங்குகிறது என்பது குறித்து ஆய்வாளர்களுக்கு இன்னும் முழுமையான உறுதி இல்லை எனக் குறிப்பிட்டுள்ளார்.
OpenAI-யின் Astra குறித்த தொழில்நுட்ப ஆவணத்தில், பழைய மாதிரிகளுடன் ஒப்பிடும்போது புதிய மாதிரியின் சிந்தனைப் பதிவுகள் மூலம் விரும்பத்தகாத நடத்தைகளை கண்டறியும் வாய்ப்பு குறைந்ததாக தெரிவிக்கப்பட்டது. மேலும், Astra சில பணிகளை சிந்தனைப் பதிவின்றியே முடிக்கவும், தனது பதிவுகளை கட்டுப்படுத்தவும் அதிக திறன் கொண்டிருந்தது. இதனால் AI அமைப்புகளை கண்காணிக்கும் புதிய முறைகள் அவசியமாகின்றன.
