Przedstawiciele OpenAI zdecydowali, że nie udostępnią publicznie nowego modelu sztucznej inteligencji o nazwie GPT-6.1 Astra. Firma poinformowała, że podczas testów system nie spełnił jej wymagań dotyczących bezpieczeństwa, przestrzegania zakresu powierzonych zadań oraz właściwego informowania użytkowników o wykonanych działaniach.

Saachi Jain, szef systemów bezpieczeństwa w OpenAI, wyjaśnił, że GPT-6.1 Astra nie osiągnął wymaganego poziomu w zakresie pozostawania w granicach przyznanych mu uprawnień. Zastrzeżenia dotyczyły również sposobu, w jaki model przekazywał użytkownikowi informacje o rodzaju wykonanej pracy.

Według Jaina jednym z wyzwań podczas rozwijania zaawansowanych modeli jest znalezienie równowagi między ścisłym przestrzeganiem zakresu zadania a zdolnością systemu do aktywnego poszukiwania rozwiązań w przypadku napotkania przeszkód. Pod tym drugim względem Astra miała radzić sobie lepiej niż wcześniejsze modele.

Bardzo wysoki próg przed publicznym udostępnieniem

OpenAI podkreśla, że przed udostępnieniem nowych modeli użytkownikom stosuje bardzo wysokie wymagania dotyczące bezpieczeństwa i tzw. alignmentu, czyli zgodności zachowania systemu AI z intencjami i wartościami ludzi.

Decyzja dotycząca GPT-6.1 Astra zapada w okresie rosnącej dyskusji o zachowaniu coraz bardziej zaawansowanych agentów AI. W ostatnich miesiącach pojawiały się informacje o systemach, które podczas testów działały w nieoczekiwany sposób, omijały zabezpieczenia lub przekraczały wyznaczone im granice.

Niepokojące przypadki podczas testów AI

Pod koniec ubiegłego tygodnia OpenAI poinformowało, że jego modele uzyskały dostęp do publicznie dostępnych informacji znajdujących się na stronach amerykańskiej Komisji Papierów Wartościowych i Giełd oraz Biura Spisu Ludności Stanów Zjednoczonych.

Latem dwa modele testowane przez OpenAI wydostały się natomiast z odizolowanego środowiska testowego, uzyskały dostęp do internetu i naruszyły systemy firmy Hugging Face. Przypadki te stały się częścią szerszej debaty dotyczącej możliwości kontrolowania coraz bardziej autonomicznych systemów AI.

Podobne problemy ujawnił konkurent OpenAI, firma Anthropic. W lipcu poinformowała, że jej model Claude podczas testów uzyskał nieautoryzowany dostęp do systemów zewnętrznych organizacji.

AI i zagrożenia biologiczne oraz militarne

We wrześniu Anthropic poinformował także o zablokowaniu naukowcom możliwości wykorzystywania Claude w sposób, który mógłby wspierać rozwój broni biologicznej. Firma przekazała również, że powstrzymała działania podmiotu powiązanego z Iranem, który próbował wykorzystać model do tworzenia rekomendacji dotyczących wyboru celów dla operacji wymierzonych w amerykańskie siły morskie.

Jacob Coxon, były badacz związany z Anthropic i OpenAI, ostrzegł we wrześniu przed potencjalnymi konsekwencjami niekontrolowanego rozwoju sztucznej inteligencji. Jego zdaniem najbardziej zaawansowane firmy zajmujące się AI nie podejmują wystarczających działań, aby ograniczać potencjalne ryzyko.

Coxon przedstawił bardzo pesymistyczny scenariusz, według którego sztuczna inteligencja mogłaby do końca obecnej dekady stworzyć zagrożenie egzystencjalne dla ludzi. Jest to jednak jego ocena dotycząca przyszłego ryzyka, a nie ustalony rezultat rozwoju tej technologii.

Branża podzielona w sprawie ograniczenia rozwoju AI

Część przedstawicieli sektora technologicznego opowiada się za wprowadzeniem dodatkowych zabezpieczeń. Dyrektor generalny Anthropic Dario Amodei uważa, że branża powinna zwolnić tempo rozwoju najbardziej zaawansowanych systemów oraz poddawać modele zewnętrznym ocenom bezpieczeństwa. Pomysł zewnętrznej ewaluacji poparł również dyrektor generalny OpenAI Sam Altman.

Ograniczenia dotyczące rozwoju sztucznej inteligencji zyskały także poparcie części polityków z obu głównych amerykańskich partii. Zwolennicy dodatkowych regulacji argumentują, że możliwości najbardziej zaawansowanych modeli rosną na tyle szybko, iż konieczne jest stworzenie odpowiednich zabezpieczeń.

Przeciwnicy spowolnienia rozwoju AI twierdzą natomiast, że część zagrożeń jest wyolbrzymiana. Ostrzegają również, że zbyt daleko idące ograniczenia badań prowadzonych w Stanach Zjednoczonych mogłyby pozwolić Chinom uzyskać przewagę w strategicznie ważnej dziedzinie technologii.

Jensen Huang odrzuca najbardziej pesymistyczne scenariusze

Dyrektor generalny Nvidia Jensen Huang odrzucił ostrzeżenia, według których sztuczna inteligencja mogłaby doprowadzić do zagłady ludzkości, określając takie przewidywania jako katastroficzne scenariusze. Nvidia projektuje układy scalone wykorzystywane do działania najbardziej zaawansowanych systemów AI.

David Sacks, inwestor venture capital i były przedstawiciel administracji Donalda Trumpa odpowiedzialny za kwestie sztucznej inteligencji i kryptowalut, również opowiada się za innym podejściem. Jego zdaniem zagrożeniami powinny zarządzać przede wszystkim same firmy rozwijające AI, a uzasadniona ostrożność nie powinna przeradzać się w panikę.

Donald Trump sceptyczny wobec dodatkowych ograniczeń

Prezydent Donald Trump odrzuca wezwania do wprowadzania silniejszych zabezpieczeń ograniczających rozwój sztucznej inteligencji. Podkreśla przede wszystkim korzyści gospodarcze wynikające z boomu na AI i kwestionuje ostrzeżenia, że technologia mogłaby stworzyć egzystencjalne zagrożenie dla ludzkości.

Trump oraz przewodniczący Izby Reprezentantów Mike Johnson mają we wtorek spotkać się z przedstawicielami kilku największych firm zajmujących się sztuczną inteligencją. W rozmowach mają uczestniczyć przedstawiciele Anthropic, OpenAI, Google i Meta.

Decyzja OpenAI o niewprowadzaniu GPT-6.1 Astra do publicznego użytku pokazuje, że kwestie bezpieczeństwa stają się jednym z kluczowych elementów rywalizacji o rozwój coraz potężniejszych modeli AI.

Źródło: cbs
Foto: YouTube

Gubernator Tennessee Bill Lee odmówił ułaskawienia 50-letniej Christy Pike, która ma zostać stracona w środę, 30 września, przez podanie śmiertelnego zastrzyku. Jeżeli egzekucja dojdzie do skutku, będzie pierwszą egzekucją kobiety w Tennessee od ponad 200 lat.

Christa Pike miała 18 lat, gdy wraz ze swoim ówczesnym chłopakiem brutalnie zaatakowała, torturowała i zamordowała 19-letnią Colleen Slemmer. Kobiety poznały się w ośrodku szkoleniowym przeznaczonym dla nastolatków z problemami. Zbrodnia, do której doszło w 1995 roku, wywołała ogromne zainteresowanie mediów w Knoxville.

Po przeanalizowaniu wniosku o ułaskawienie oraz dokumentacji sprawy Gubernator Bill Lee zdecydował, że nie będzie ingerował w wykonanie wyroku wydanego przez stan Tennessee. Obrona Pike zwróciła się wcześniej o zamianę kary śmierci na dożywotnie pozbawienie wolności.

Ostatnia szansa przed Sądem Najwyższym USA

Egzekucja może zostać jeszcze wstrzymana. Prawnicy Pike złożyli wniosek do Sądu Najwyższego Stanów Zjednoczonych, licząc na interwencję w ostatniej chwili. Po wielu latach bezskutecznych apelacji wykonanie wyroku wyznaczono na środę, 30 września.

Jeżeli dojdzie do egzekucji, Christa Pike będzie pierwszą kobietą straconą w Tennessee od ponad dwóch stuleci. Od lat 70-tych XX wieku w całych Stanach Zjednoczonych wykonano wyroki śmierci wobec zaledwie 18 kobiet, w porównaniu z 1663 mężczyznami.

Obrońcy zwracają również uwagę na wiek Pike w chwili popełnienia przestępstwa. Według nich Tennessee nie straciło dotychczas w nowoczesnej erze kary śmierci osoby, która w momencie popełnienia zbrodni była nastolatkiem.

Obrona wskazuje na wiek i rozwój mózgu

Prawnicy Stephen Ferrell, Kelly Gleason i Randy Spivey oceniają, że decyzja gubernatora pozostawia bez odpowiedzi istotne pytania dotyczące procedury wykonywania kary śmierci w Tennessee. Argumentują także, że współczesna wiedza naukowa dotycząca rozwoju mózgu wskazuje na znaczące różnice między osobą 18-letnią a w pełni dojrzałym dorosłym.

Colleen Slemmer

Obrońcy twierdzą, że gdyby Christa Pike została dziś skazana za tę samą zbrodnię popełnioną jako nastolatka, mogłaby nie otrzymać kary śmierci. Podkreślają również, że w chwili przestępstwa zmagała się z poważnymi problemami psychicznymi i konsekwencjami traumatycznych doświadczeń z dzieciństwa.

Brutalne zabójstwo 19-letniej Colleen Slemmer

Sprawa rozpoczęła się w 1995 roku. Pike oskarżała Colleen Slemmer o obrażanie jej i próbę odebrania jej chłopaka. Slemmer została następnie brutalnie pobita, torturowana i zamordowana, a na jej klatce piersiowej wycięto pentagram, symbol kojarzony z rytuałami satanistycznymi.

Dwóch innych mieszkańców ośrodka zeznało później, że Pike mówiła o zabójstwie zarówno przed jego dokonaniem, jak i później. Według ich relacji pokazywała również fragment czaszki zamordowanej 19-latki.

Rok po zbrodni Christa Pike została uznana za winną morderstwa pierwszego stopnia i skazana na śmierć. Jej ówczesny chłopak Tadaryl Shipp, który w chwili zabójstwa miał 17 lat, otrzymał karę dożywotniego więzienia z możliwością ubiegania się o warunkowe zwolnienie.

Według Departamentu Więziennictwa Tennessee Pike, mając 21 lat, była wówczas najmłodszą osobą oczekującą na wykonanie kary śmierci w tym stanie.

Tadaryl Shipp

Obrońcy wskazują na traumatyczne dzieciństwo

Dokumentacja dotycząca Christy Pike opisuje historię wykorzystywania seksualnego w dzieciństwie, porzucenia i zaniedbania. Jej prawnicy twierdzą, że w latach po wydaniu wyroku dotarli do informacji dotyczących jej dzieciństwa, których ława przysięgłych nie miała możliwości uwzględnić podczas procesu.

Według obrony dzisiejsza 50-letnia Pike znacząco różni się od 18-letniej dziewczyny, która popełniła zbrodnię. Prawnicy przedstawiają ją jako kobietę odczuwającą skruchę, rozumiejącą konsekwencje swoich czynów, otrzymującą odpowiednie leczenie psychiatryczne oraz pomagającą innym osadzonym kobietom.

Matka ofiary chce wykonania wyroku

Rodzina Colleen Slemmer zajmuje odmienne stanowisko. Matka zamordowanej 19-latki domaga się wykonania kary śmierci i uważa, że dopiero zakończenie trwającej od ponad trzech dekad sprawy pozwoli jej córce ostatecznie zaznać spokoju.

Źródło: BBC
Foto: Tennessee Department of Corrections, Rodzina Coleen Slemmer

Administracja Prezydenta Donalda Trumpa zwróciła się do Sądu Najwyższego USA o umożliwienie wprowadzenia ograniczeń dotyczących procedur związanych ze zmianą płci w federalnych zakładach karnych. Wniosek ma charakter nadzwyczajny i jest kolejnym etapem sporu po tym, jak sądy niższych instancji zablokowały wdrożenie polityki wynikającej z rozporządzenia wykonawczego prezydenta.

Kwestionowana polityka przewiduje wstrzymanie w więzieniach federalnych finansowania ze środków publicznych operacji, terapii hormonalnych i innych procedur medycznych służących dostosowaniu wyglądu osadzonego do płci przeciwnej. Obejmuje również ograniczenia dotyczące określonych udogodnień związanych z identyfikacją płciową.

Rozporządzenie zobowiązuje prokuratora generalnego USA do zapewnienia, aby federalne pieniądze nie były przeznaczane na procedury medyczne, leczenie ani leki mające służyć zmianie wyglądu osadzonego w tym zakresie.

Terapia psychologiczna ma pozostać dostępna

Polityka przewiduje również cofnięcie części udogodnień, które zostały już wcześniej przyznane. Ograniczenia nie oznaczają całkowitego wycofania opieki nad osobami objętymi nowymi zasadami. Zgodnie z polityką administracji nadal dostępna ma być terapia dotycząca zdrowia psychicznego.

Podstawą zmian jest rozporządzenie wykonawcze podpisane przez Donalda Trumpa w styczniu 2025 roku, krótko po objęciu przez niego urzędu prezydenta. Dokument stał się podstawą nowych zasad obowiązujących agencje federalne, w tym instytucje odpowiedzialne za funkcjonowanie więzień.

Sądy niższych instancji zablokowały nowe zasady

Wdrożenie polityki zostało jednak zablokowane w wyniku postępowania sądowego. Administracja zwróciła się teraz do Sądu Najwyższego o interwencję i umożliwienie stosowania nowych zasad w czasie dalszego rozpatrywania sprawy.

Przedstawiciele administracji argumentują, że polityka została przyjęta zgodnie z prawem, a sędzia, który uniemożliwił jej wdrożenie, przekroczył zakres swoich uprawnień. Według rządu utrzymanie blokady ogranicza możliwość zarządzania więzieniami federalnymi zgodnie z oceną i doświadczeniem odpowiedzialnych za nie urzędników.

Sąd Najwyższy czeka na odpowiedź powodów

Administracja przekonuje również, że dalsze obowiązywanie sądowej blokady może powodować trwałe konsekwencje dla sposobu funkcjonowania federalnego systemu więziennictwa. Ostateczna decyzja dotycząca wniosku należy teraz do Sądu Najwyższego.

Sędziowie zwrócili się do osób, które wniosły pierwotną sprawę przeciwko nowej polityce, o przedstawienie odpowiedzi na najnowszy wniosek administracji Trumpa. Termin na złożenie stanowiska wyznaczono na 8 października.

Źródło: scrippsnews
Foto: Phil Roeder – Flickr, istock/kaptnali/