Prezydent Biden podejmie w poniedziałek szeroko zakrojone działania wykonawcze, aby spróbować ustanowić nadzór nad szybko rozwijającym się sektorem sztucznej inteligencji. Celem jest ustanowienie nowych standardów testów bezpieczeństwa produktów AI, a także system federalnych „pressure tests” głównych systemów.

Zarządzenie wykonawcze, opracowywane od miesięcy, odzwierciedla obawy Białego Domu, że technologia pozostawiona bez kontroli może stanowić poważne ryzyko dla bezpieczeństwa narodowego, gospodarki, zdrowia publicznego i prywatności.

Ważny światowy szczyt na temat sztucznej inteligencji, na którym będzie obecna wiceprezydent Kamala Harris, odbędzie się w Londynie w dniach 1-2 listopada.

Firmy technologiczne obecnie dokonują własnego testowania w formie „red-team” – w celu znalezienia potencjalnych problemów, takich jak dezinformacja czy rasizm.

Red-team to grupa, która udaje wroga, podejmuje próbę cyfrowej ingerencji w organizację pod jej kierunkiem, aby mogła poprawić swoje zabezpieczenia.

Jednak zarządzenie Joe Bidena będzie wymagało od rządu ustanowienia nowych standardów, narzędzi i testów dotyczących zespołu red-team, a także będzie wymagało od firm powiadamiania rządu i udostępniania wyników działania zespołu red-team w przypadku produktów, które mogą stwarzać poważne ryzyko, przed wypuszczeniem systemów na rynek.

Wymóg ten wynika z ustawy o produkcji obronnej z czasów wojny koreańskiej, która rozszerza uprawnienia prezydenta, zwłaszcza jeśli chodzi o kwestie bezpieczeństwa narodowego.

Chociaż ustawa o produkcji obronnej pozwala Białemu Domowi mieć pewną władzę nad nowymi produktami firm, nadal brakuje uprawnień wykonawczych – co według urzędników Białego Domu będzie należało do Kongresu.

Biden powiedział, że widzi potencjał sztucznej inteligencji w pomaganiu w opracowywaniu nowych leków, w tym leków na raka.

Jednak Biały Dom wyraził również zaniepokojenie jej wadami, takimi jak np. wykorzystywanie seniorów przy użyciu technologii klonowania głosu, aby namówić ich do płatności na rzecz oszusta.

Nowe zarządzenie zwraca się do agencji o rozważenie ustanowienia standardów dotyczących tego, w jaki sposób wydziały mogą wdrażać sztuczną inteligencję w pozytywny sposób – na przykład w opracowywanie nowych leków i pomaganie nauczycielom w klasach.

Ale wzywa także wydziały do ustalenia standardów zapewniających, że sztuczna inteligencja nie zaostrza praktyk dyskryminacyjnych w zatwierdzeniu mieszkania lub kredytu.

Zarządzenie wzywa także do usprawnienia procesów wizowych, tak aby imigranci, którzy są specjalistami w dziedzinie sztucznej inteligencji mogli przyjechać do USA, aby studiować i pracować nad jej rozwojem.

Źródło: npr
Foto: YouTube, istock/PhonlamaiPhoto/