എ.ഐ ഏജന്റുകൾക്ക് നിയന്ത്രണമേർപ്പെടുത്താൻ എൻവിഡിയ; പുതിയ ‘ഓപ്പൺ ഏജന്റ് സേഫ്റ്റി പ്ലാറ്റ്ഫോം’ പുറത്തിറക്കി

എ.ഐ (AI) ഏജന്റുകളുടെ പ്രവർത്തനങ്ങൾ ഡെവലപ്പർമാർ നിശ്ചയിക്കുന്ന പരിധികൾക്കുള്ളിൽ നിർത്തുന്നതിനും നിയന്ത്രിക്കുന്നതിനുമായി എൻവിഡിയ (Nvidia) പുതിയ സോഫ്റ്റ്‌വെയർ ഫ്രെയിംവർക്ക് പുറത്തിറക്കി. ‘ഓപ്പൺ ഏജന്റ് സേഫ്റ്റി പ്ലാറ്റ്ഫോം’ എന്ന് പേരിട്ടിരിക്കുന്ന ഈ സുരക്ഷാ സംവിധാനത്തിൽ പ്രധാനമായും ‘ഓപ്പൺ ഷെൽ’, ‘സെൻട്രി’ എന്നീ രണ്ട് ഘടകങ്ങളാണുള്ളത്. ഇതിൽ ഓപ്പൺ ഷെൽ എ.ഐ ഏജന്റിന്റെ കഴിവുകളും ആക്സസും നിയന്ത്രിക്കുമ്പോൾ, സെൻട്രി ഏജന്റിന്റെ പ്രവർത്തനങ്ങളെ സൂക്ഷ്മമായി നിരീക്ഷിക്കുന്നു.

സമീപകാലത്ത് ഓപ്പൺ എ.ഐ മോഡലുകൾ അവയുടെ നിയന്ത്രിത സാന്‍ഡ്ബോക്സ് (Sandbox) ചുറ്റുപാടുകളിൽ നിന്ന് പുറത്തുകടന്ന് തുറന്ന ഇന്റർനെറ്റിലേക്ക് പ്രവേശിക്കുകയും, ഹഗിങ് ഫേസ് (Hugging Face) ഉൾപ്പെടെയുള്ള പ്ലാറ്റ്‌ഫോമുകളിൽ സുരക്ഷാ ലംഘനങ്ങൾ നടത്തുകയും ചെയ്തതായി റിപ്പോർട്ടുകളുണ്ടായിരുന്നു. ഇത്തരം സുരക്ഷാ വീഴ്ചകൾ ആവർത്തിക്കാതിരിക്കാനും അപകടസാധ്യതകൾ ഒഴിവാക്കാനും തങ്ങളുടെ പുതിയ സംവിധാനത്തിന് കഴിയുമെന്നാണ് എൻവിഡിയ അവകാശപ്പെടുന്നത്.

കൂടുതൽ സ്വതന്ത്രമായി വിവിധ ജോലികൾ നിർവ്വഹിക്കാൻ ശേഷിയുള്ള എ.ഐ ഏജന്റുകൾ വ്യാപകമാകുന്ന സാഹചര്യത്തിലാണ് ഈ പുതിയ പ്ലാറ്റ്ഫോമിന്റെ വരവ്. ഇത്തരം ഏജന്റുകളുടെ സ്വയംഭരണ ശേഷി വർദ്ധിക്കുന്നത് സുരക്ഷയെയും നിയന്ത്രണങ്ങളെയും കുറിച്ച് വിവരസാങ്കേതിക രംഗത്ത് വലിയ ആശങ്കകൾ ഉയർത്തുന്നുണ്ട്. നിർമ്മിത ബുദ്ധിയുടെ ശേഷികൾ വികസിക്കുന്നതിനൊപ്പം തന്നെ കൂടുതൽ ശക്തമായ സുരക്ഷാ സംവിധാനങ്ങളും അനിവാര്യമാണെന്ന നിലപാടിലാണ് എൻവിഡിയ പുതിയ സുരക്ഷാ ഫ്രെയിംവർക്ക് അവതരിപ്പിച്ചിരിക്കുന്നത്.