Naukowcy wzywają do utworzenia międzynarodowego ciała ds. nadzorowania zaawansowanej AI
Około 400 naukowców z 21 krajów, w tym pionierzy sztucznej inteligencji Geoffrey Hunton i Yosha Bengio, wezwało we wtorek do utworzenia międzynarodowego ciała, które nadzorowałoby obowiązujące dla całej branży standardy ograniczania zaawansowanej AI oraz zgłaszania związanych z nią incydentów.
Zgodnie z propozycją naukowców powstałby rejestr poważnych incydentów dotyczących bezpieczeństwa AI, który zostałby upubliczniony.
Naukowcy wezwali do „natychmiastowych zmian” w praktyce rozwijania i stosowania AI, aby uniknąć przyszłych incydentów związanych z bezpieczeństwem.
W liście otwartym badacze oznajmili, że „przełomowe modele sztucznej inteligencji” powinny być fizycznie odcięte od sieci zewnętrznych i podlegać nadzorowi. Ich zdaniem dobrowolne zobowiązania podmiotów w branży nie wystarczą.
Według nich podmioty rozwijające lub testujące modele zaawansowanej AI powinny natychmiast przyjąć standardy cyberbezpieczeństwa. Rządy muszą zaś zacząć pracować nad bardzo formalnym sposobem nadzoru.
Miesiąc temu czołowe firmy AI Nvidia, OpenAI, Google, Meta, xAI i Anthropic podpisały w Białym Domu porozumienie. Zobowiązały się do dobrowolnych posunięć zabezpieczających, bez formalnego mechanizmu narzucającego ich wdrażanie.
W ostatnim czasie doszło do serii incydentów, które ujawniły słabości sposobu testowania i kontroli zaawansowanych systemów AI. Wystąpiły przypadki, gdy agenty AI wydostawały się poza niewystarczająco zabezpieczone środowisko testowe i wchodziły w kontakt z systemami zewnętrznymi.
Przeczytaj także: Polska sztuczna inteligencja remedium na problemy z shadow AI
Źródło: naukawpolsce.pap.pl
Last Updated on 15 października, 2026 by Krzysztof Kotlarski