NASK i OpenAI łączą siły. To jedyne takie partnerstwo w UE
NASK i OpenAI podpisały porozumienie dotyczące badań nad bezpieczeństwem sztucznej inteligencji. Współpraca ma pomóc w wykrywaniu słabości zaawansowanych modeli, testowaniu…
-
-
Włamanie do OpenCode. Skradzione klucze API wygenerowały wysokie rachunki
OpenCode poinformowało o włamaniu do starszego systemu platformy OpenCode Console. Incydent objął 1,4% użytkowników, a przejęte klucze API mogły posłużyć…
-
Zwolnieni badacze OpenAI ostrzegają przed efektem mrożącym. „Nie da się bezpiecznie stworzyć AGI”
Troje badaczy zajmujących się bezpieczeństwem AI, zwolnionych przez OpenAI, opublikowało list otwarty, w którym zaprzeczają niewłaściwemu obchodzeniu się z poufnymi…
-
Nvidia tworzy zabezpieczenia dla agentów AI
Nvidia zaprezentowała Open Agent Safety Platform, zestaw narzędzi programistycznych i sprzętowych zaprojektowanych do niezależnego kontrolowania agentów AI. Platforma ma ograniczać…
-
Raport ONZ: agenci AI wymykają się klasycznym zabezpieczeniom
Niezależny Międzynarodowy Panel Naukowy ONZ ds. Sztucznej Inteligencji opublikował pierwszy raport tematyczny poświęcony ryzyku utraty kontroli nad agentami AI. Dokument…
-
Agenci AI dostali własne infolinie. Mogą zgłaszać nieprawidłowe zachowanie innych agentów
Rozwój autonomicznych agentów AI tworzy nowy problem: co zrobić, gdy jeden system zauważy, że inny łamie zasady? Powstały już narzędzia,…
-
ChatGPT mógł wykradać firmowe maile. Badacze odkryli nowy problem z bezpieczeństwem AI
Asystenci AI coraz częściej otrzymują dostęp do firmowej poczty, dokumentów i kodu źródłowego. Badacze Check Point Research pokazali jednak, że…
-
OpenAI wzmacnia zabezpieczenia AI i wprowadza ChatGPT dla nastolatków
OpenAI wzmacnia zabezpieczenia modeli podczas ich rozwoju i testowania, a jednocześnie wprowadza specjalne rozwiązania dla nastoletnich użytkowników ChatGPT. Firma zaostrza…
-
Tylko 31% firm skutecznie nadzoruje agentową AI
Przedsiębiorstwa coraz szybciej wdrażają sztuczną inteligencję, ale nie nadążają z budową mechanizmów kontroli. Choć 92% organizacji deklaruje, że wie, gdzie…
-
Check Point wprowadza firewall, który ma chronić komunikację z AI
Coraz więcej pracowników wykorzystuje narzędzia generatywnej sztucznej inteligencji, często nieświadomie przesyłając do nich poufne dokumenty, kod źródłowy czy dane klientów.…
