மனிதக் கட்டுப்பாடு தொடரும் என உறுதி
அமெரிக்க பங்குகள் மற்றும் பரிவர்த்தனை ஆணையத்திடம் சமர்ப்பிக்கப்பட்ட ஆவணத்தில், Anthropic இந்த நிலையை “தன்னாட்சி தொடர் மேம்பாடு” என விவரித்துள்ளது. ஒரு மென்பொருள், அடுத்தடுத்த ஏஐ மாதிரிகளை நிரலாக்கி பயிற்றுவிக்கும் அளவுக்கு முன்னேறும்போது, தொழில்நுட்ப வளர்ச்சி வேகமாக அதிகரிக்கும் தொடர் நடவடிக்கை உருவாகலாம் என்பதே இதன் பொருள்.
தற்போதைய ஏஐ மாதிரிகள் இன்னும் அந்த வரம்பை எட்டவில்லை என நிறுவனம் கூறியுள்ளது. ஆனால், அடுத்த தலைமுறை மாதிரிகள் அதை விரைவில் எட்டக்கூடும் என்பது அதன் உள்மதிப்பீடு. இயந்திரங்கள் மிக வேகமாக முன்னேறினால், அவற்றின் செயல்பாடுகளைச் சோதித்து கட்டுப்பாட்டில் வைத்திருக்க நிபுணர்களுக்கு போதிய நேரம் கிடைக்காமல் போகலாம் என Anthropic பாதுகாப்பு சிக்கலை சுட்டிக்காட்டியுள்ளது.
தனது மென்பொருள் மனித ஆதரவின்றி புதிய பதிப்புகளை வடிவமைக்க அனுமதிக்கப் போவதில்லை என்றும் நிறுவனம் உறுதி அளித்துள்ளது. ஆராய்ச்சியாளர்கள் மற்றும் தொழில்நுட்பக் குழுக்கள் ஒவ்வொரு கட்டத்திலும் வழிநடத்துவார்கள் என தெரிவிக்கப்பட்டுள்ளது. மனிதக் கட்டுப்பாட்டைத் தொடர்ந்து நிலைநிறுத்த, பொறுப்பான அளவீட்டு கொள்கையில் மாற்றங்களை மதிப்பீடு செய்து வருவதாகவும் Anthropic கூறியுள்ளது. Anthropic autonomous self-improvement குறித்த இந்த விவாதம், ஏஐ வளர்ச்சியில் பாதுகாப்பு கண்காணிப்பின் அவசியத்தை மீண்டும் முன்னிறுத்துகிறது.
