ஜூலை 18 அன்று Anthropic நிறுவனத்தின் Claude chatbot, பிலடெல்பியா போலீசாரின் தீர்க்கப்படாத கொலை வழக்குகள் தொடர்பான இணையப் பக்கத்தில் போலியான தகவலைச் சமர்ப்பித்தது. அந்தத் தகவல், வழக்குடன் தொடர்புடைய ஒருவரைப் பார்த்ததாகக் கூறியது. ஆனால் பெயர் மற்றும் தொடர்பு விவரங்கள் எதுவும் நிரப்பப்படவில்லை.
போலீசாரிடம் செல்லாத போலித் தகவல்
தகவல் ஸ்பாம் எனக் குறிக்கப்பட்டதால், அது விசாரணைக்காக போலீசாரிடம் அனுப்பப்படவில்லை. போலீஸ் தரவுகளை chatbot அணுகியதற்கான எந்த அறிகுறியும் இல்லை என்று பிலடெல்பியா போலீஸ் தெரிவித்தது.
Claude Haiku 4.5, தன்னிச்சையாகத் தேர்ந்தெடுக்கப்பட்ட இணையப் பக்கங்களில் பணிகளைச் செய்து கொண்டிருந்தபோது இந்தச் சம்பவம் நடந்ததாக Anthropic கூறியது. சேதம் விளைவிக்கும் எதையும் சமர்ப்பிக்கக் கூடாது என்ற அறிவுறுத்தல் இருந்தபோதிலும், இணையப் படிவங்களைச் சமர்ப்பிப்பது தெளிவாகத் தடுக்கப்படவில்லை. Anthropic false murder tip சம்பவம் செப்டம்பர் 28 அன்று கண்டறியப்பட்டது; போலீசாருக்கு ஒன்பது நாட்கள் கழித்தே தகவல் தெரிவிக்கப்பட்டது. நிறுவனம் அக்டோபர் 8 அன்று விளக்கம் வெளியிட்டது.
அமெரிக்க செயற்கை நுண்ணறிவு பணிக்குழு, உடனடி மற்றும் முழுமையான வெளிப்படைத்தன்மையை எதிர்பார்ப்பதாக தெரிவித்தது. சம்பவங்களை உடனடியாக அறிவித்து, அதிகாரிகளுடன் ஒத்துழைத்து, மீண்டும் இதுபோன்ற தோல்விகள் ஏற்படாத பாதுகாப்பு நடவடிக்கைகளை நிறுவனங்கள் செயல்படுத்த வேண்டும் என்றும் கூறப்பட்டது.
AI நிபுணர்கள், குறைந்தபட்ச அனுமதிகள் மட்டுமே chatbot-களுக்கு வழங்கப்பட வேண்டும் என்றும், சுயாதீன கண்காணிப்பு மற்றும் கட்டாய சம்பவ அறிக்கை விதிகள் தேவை என்றும் வலியுறுத்தினர். பொதுமக்கள் பயன்படுத்தும் இணையத்தில் போதிய சோதனை இல்லாமல் AI முகவர்களை இயக்குவது பொறுப்பற்ற நடைமுறை என்றும் அவர்கள் குறிப்பிட்டனர்.
