എഐ ചാറ്റ്ബോട്ടിനോട് ദേഷ്യപ്പെട്ടാൽ പണികിട്ടും; കർശന നിയന്ത്രണങ്ങളുമായി ആന്ത്രോപിക്

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുകളോട് ദേഷ്യപ്പെടുന്നവർക്ക് മുന്നറിയിപ്പുമായി പ്രമുഖ എഐ കമ്പനിയായ ആന്ത്രോപിക്. തങ്ങളുടെ എഐ മോഡലായ ‘ക്ലോഡി’നോട് (Claude) മോശമായി പെരുമാറിയാൽ ചാറ്റ് സ്വയം അവസാനിപ്പിക്കാനുള്ള അധികാരമാണ് പുതിയ ഉപയോഗാനുമതി നയങ്ങളിലൂടെ കമ്പനി നൽകിയിരിക്കുന്നത്. ഒരു വർഷത്തിന് ശേഷമാണ് ആന്ത്രോപിക് തങ്ങളുടെ പോളിസികളിൽ ഈ സുപ്രധാന മാറ്റം വരുത്തുന്നത്.

ചോദ്യങ്ങൾക്ക് കൃത്യമായ ഉത്തരം ലഭിക്കാത്തതിനെ തുടർന്ന് ഉപയോക്താക്കളുടെ ഭാഗത്ത് നിന്ന് കടുത്ത മോശം പെരുമാറ്റം ഉണ്ടായാൽ മാത്രമാകും ക്ലോഡ് ചാറ്റ് അവസാനിപ്പിക്കുക. എന്നാൽ ഇത്തരക്കാർക്ക് പ്ലാറ്റ്‌ഫോമിൽ സ്ഥിരം വിലക്ക് (Permanent ban) ഏർപ്പെടുത്തുമോ എന്ന കാര്യത്തിൽ കമ്പനി ഇതുവരെ വ്യക്തത വരുത്തിയിട്ടില്ല.

ഇതിന് പുറമെ ആയുധ നിർമ്മാണം, മറ്റ് നിയമവിരുദ്ധ പ്രവർത്തനങ്ങൾ എന്നിവയുമായി ബന്ധപ്പെട്ട വിവരങ്ങൾ എഐ വഴി തേടുന്നതിനും കർശന നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തിയിട്ടുണ്ട്. എഐയുമായി ബന്ധപ്പെട്ട കാര്യങ്ങൾക്ക് ഒരു മനുഷ്യ ഓപ്പറേറ്ററുടെ നേരിട്ടുള്ള മേൽനോട്ടം ഉറപ്പുവരുത്താനും പുതിയ നയത്തിൽ വ്യവസ്ഥയുണ്ട്.