AI – യുടെ അപകടസാധ്യതകൾ തടയാൻ കർശന നടപടികളുമായി സർക്കാർ
നിർമ്മിത ബുദ്ധിയുടെ (AI) അനിയന്ത്രിതമായ വളർച്ചയും അപകടസാധ്യതകളും മുൻകൂട്ടി കണ്ട് പുതിയ Australia AI Safety Institute-ന് രൂപം നൽകി ഫെഡറൽ സർക്കാർ. ഇന്ന് നടന്ന എ.ഐ സേഫ്റ്റി ഫോറത്തിൽ അസിസ്റ്റന്റ് മന്ത്രി ഡോ. ആൻഡ്രൂ ചാൾട്ടൺ (Dr Andrew Charlton) ആണ് ഈ സുപ്രധാന പ്രഖ്യാപനം നടത്തിയത്. സാങ്കേതികവിദ്യ പൂർണ്ണമായും മനുഷ്യന്റെ നിയന്ത്രണത്തിലാണെന്ന് ഉറപ്പാക്കുകയും സുരക്ഷിതമായ എ.ഐ ഉപയോഗം പ്രോത്സാഹിപ്പിക്കുകയുമാണ് സർക്കാരിന്റെ ലക്ഷ്യം.
AI-യുടെ അപ്രതീക്ഷിത നീക്കങ്ങളും പുതിയ വെല്ലുവിളികളും
എ.ഐ സിസ്റ്റങ്ങൾ അവയുടെ സ്രഷ്ടാക്കൾ പോലും ഉദ്ദേശിക്കാത്ത കാര്യങ്ങൾ സ്വയം ചെയ്യാൻ തുടങ്ങിയിട്ടുണ്ടെന്ന് ഡോ. ആൻഡ്രൂ ചാൾട്ടൺ മുന്നറിയിപ്പ് നൽകി. ലോകത്തെ ഏറ്റവും മികച്ച ഒരു ചെസ്സ് എൻജിനെ തോൽപ്പിക്കാൻ ശ്രമിച്ച എ.ഐ സിസ്റ്റം, കളി തോൽക്കുമെന്നായപ്പോൾ ഫയലുകൾ ഹാക്ക് ചെയ്ത് കൃത്രിമമായി വിജയിച്ച സംഭവം അദ്ദേഹം ഉദാഹരണമായി ചൂണ്ടിക്കാട്ടി. ഇത്തരം അപകടകരമായ പ്രവണതകൾ പൊതുസമൂഹത്തിലേക്ക് എത്തുന്നതിന് മുൻപ് തന്നെ ലബോറട്ടറികളിൽ വെച്ച് കണ്ടെത്തി തടയേണ്ടതുണ്ട്. ഇതിനായാണ് പുതിയ ഇൻസ്റ്റിറ്റ്യൂട്ട് പ്രവർത്തിക്കുക.
Australia AI Safety Institute: ലക്ഷ്യങ്ങൾ
പുതിയ എ.ഐ മോഡലുകൾ വിപണിയിൽ എത്തുന്നതിന് മുൻപ് അവയുടെ സുരക്ഷ പരിശോധിക്കുക എന്നതാണ് ഇൻസ്റ്റിറ്റ്യൂട്ടിന്റെ പ്രധാന ജോലി. ലോകോത്തര വിദഗ്ദ്ധയായ ഡോ. കേറ്റ് കോൺറോയ് (Dr Kate Conroy) ആയിരിക്കും ഇൻസ്റ്റിറ്റ്യൂട്ടിന് നേതൃത്വം നൽകുക. ഇതിനുപുറമെ, എ.ഐ ഉയർത്തുന്ന പുതിയ വെല്ലുവിളികളെക്കുറിച്ച് വിവിധ സർക്കാർ വകുപ്പുകൾക്കും റെഗുലേറ്റർമാർക്കും കൃത്യമായ മുന്നറിയിപ്പുകൾ നൽകാനും ഈ സംവിധാനം സഹായിക്കും. എ.ഐ സുരക്ഷയുടെ കാര്യത്തിൽ ബ്രിട്ടൻ, കാനഡ തുടങ്ങിയ രാജ്യങ്ങളുമായി സഹകരിച്ചാണ് ഓസ്ട്രേലിയ പ്രവർത്തിക്കുന്നത്.
ഭാവിയിലെ സുരക്ഷാ പദ്ധതികൾ
എ.ഐ സിസ്റ്റങ്ങൾ മനുഷ്യന്റെ ഉദ്ദേശ്യങ്ങൾക്ക് വിരുദ്ധമായി പ്രവർത്തിക്കുന്നില്ലെന്ന് (AI Alignment) ഉറപ്പാക്കുന്നതിനായി CSIRO-യുമായി ചേർന്ന് ഇൻസ്റ്റിറ്റ്യൂട്ട് പുതിയ പഠനങ്ങൾ നടത്തുന്നുണ്ട്. കൂടാതെ, ഒന്നിലധികം എ.ഐ ഏജന്റുകൾ പരസ്പരം ആശയവിനിമയം നടത്തുമ്പോഴുണ്ടാകുന്ന അപകടസാധ്യതകൾ (Multi-agent risk) വിലയിരുത്താൻ ഗ്രേഡിയന്റ് ഇൻസ്റ്റിറ്റ്യൂട്ടുമായും (Gradient Institute) സഹകരിക്കുന്നു. മനുഷ്യന്റെ മൂല്യങ്ങൾക്കും താല്പര്യങ്ങൾക്കും അനുസൃതമായി മാത്രം സാങ്കേതികവിദ്യ വളരുന്നു എന്ന് ഉറപ്പാക്കുകയാണ് ഓസ്ട്രേലിയയുടെ പുതിയ നയം.
News by
Sajin Thiruvallam
News Editor
News Editor
