Amerykańska Agencja Bezpieczeństwa Cybernetycznego i Infrastruktury (CISA) oraz Brytyjskie Narodowe Centrum Bezpieczeństwa Cybernetycznego (NCSC) wspólnie z międzynarodowymi partnerami z 16 innych krajów, wydały nowe wytyczne dotyczące rozwoju bezpiecznych systemów sztucznej inteligencji (AI). To przełomowe wydarzenie, wsparte przez 23 organizacje zajmujące się cyberbezpieczeństwem, podkreśla wagę zabezpieczeń w AI, cyberbezpieczeństwa i kluczowej infrastruktury.
Wytyczne te, zgodne z amerykańskimi dobrowolnymi zobowiązaniami dotyczącymi bezpiecznej i godnej zaufania AI, podkreślają znaczenie przestrzegania zasad “Secure by Design”. Obejmują one zarówno testowanie nowych narzędzi przed ich publicznym wydaniem, jak i wprowadzanie zabezpieczeń przed szkodami społecznymi, takimi jak uprzedzenia i dyskryminacja, a także problemy z prywatnością. Są to zalecenia dotyczące wszystkich rodzajów systemów AI, nie tylko modeli granicznych, oferujące środki zaradcze i sugestie, które pomogą specjalistom z różnych dziedzin w podejmowaniu świadomych decyzji dotyczących bezpiecznego projektowania, rozwoju, wdrożenia i eksploatacji systemów uczenia maszynowego AI.
Wytyczne te są również odpowiedzią na rosnące zagrożenie atakami adwersarialnymi na systemy AI i ML, które mogą prowadzić do niezamierzonego zachowania, takiego jak wpływanie na klasyfikację modeli, umożliwianie nieautoryzowanych działań, czy wydobywanie poufnych informacji. Podkreślają one konieczność podejścia “secure by design” na wszystkich etapach rozwoju systemów AI, od projektu po eksploatację.
Podsumowując, nowe wytyczne są kluczowym krokiem w kierunku zapewnienia większego bezpieczeństwa w szybko rozwijającej się dziedzinie sztucznej inteligencji, podkreślając znaczenie bezpieczeństwa, przejrzystości i odpowiedzialności w projektowaniu i implementacji systemów AI. CISA zachęca wszystkich interesariuszy, od dostawców po użytkowników końcowych, do zapoznania się z tymi wytycznymi, aby wspierać rozwój bezpiecznych i godnych zaufania technologii AI.
Link do wytycznych dotyczących bezpiecznego rozwoju systemów sztucznej inteligencji, opracowanych przez CISA i UK NCSC, znajdziesz pod adresem: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
