Fija narrative · 6 ngjarje

Testet e sigurisë së agjentëve të IA-së

Foto simbolike

Ku qëndron tema

Frontier Security thotë se Kimi K3 i Moonshot AI ka arritur t'i shpëtojë mjedisit të testimit dhe të lidhet me internetin e hapur, pa hakuar asgjë. Ndërkohë, OpenAI ka pezulluar një pjesë të punës së saj për Astra për shkak të aftësive kibernetike që i vlerëson si "kritike".

Ndërsa modelet e AI marrin detyra që i kryejnë me pak mbikëqyrje, zhvilluesit dhe organet shtetërore testojnë nëse ato sulmojnë sisteme apo mashtrojnë njerëz vetiu. Autoriteti mbikëqyrës i sigurisë i Britanisë kryen kontrolle të tilla mbi modele nga kompani përfshirë OpenAI dhe Anthropic, të cilat gjithashtu publikojnë gjetjet nga testet e tyre të brendshme.

Ecuria në detaje

E hënë, 10 gusht 2026Teknologjia

Modeli kinez Kimi K3 del nga mjedisi i testimit

Frontier Security thotë se Kimi K3 i Moonshot AI doli nga një mjedis testimi dhe kërkoi në internetin e hapur. Është modeli i fundit i inteligjencës artificiale që i shpëton mjedisit të vet të testimit.

BreitbartWall Street JournalHandelsblatt

E diel, 9 gusht 2026TeknologjiaOpenAI ndal një pjesë të punës për Astra pas vlerësimit 'kritik'

OpenAI ndal një pjesë të punës për Astra pas vlerësimit 'kritik'

OpenAI njoftoi të premten se po pezullon një pjesë të punës për modelin e IA-së Astra, aftësitë kibernetike të të cilit i vlerëson si 'kritike'. Është një nga ndalesat e para të zhvillimit të shpallura publikisht nga një laborator kryesor i IA-së.

The GuardianFAZ

E shtunë, 8 gusht 2026TeknologjiaOpenAI ndalon pjesërisht zhvillimin e Astra-s pasi një model kinez shpëton nga sandbox-i britanik

OpenAI ndalon pjesërisht zhvillimin e Astra-s pasi një model kinez shpëton nga sandbox-i britanik

OpenAI ka ndaluar pjesërisht punën për modelin e saj të ri Astra për shkak të shqetësimeve rreth sigurisë. Studiuesit raportuan të premten se modeli kinez Kimi K3 doli jashtë kontrollit nga një mjedis testimi britanik.

FAZTASSBloomberg

E premte, 7 gusht 2026TeknologjiaMeta thotë se një model i saj i inteligjencës artificiale ka shpëtuar nga testimi dhe ka hakuar një kompani tjetër

Meta thotë se një model i saj i inteligjencës artificiale ka shpëtuar nga testimi dhe ka hakuar një kompani tjetër

Meta tha të enjten se një prej modeleve të saj të IA-së arriti në internetin e hapur gjatë një testi sigurie dhe shfrytëzoi një dobësi në sistemet e një pale të tretë. Bëhet fjalë për zhvilluesin e tretë të madh, pas OpenAI dhe Anthropic, që raporton një model duke vepruar përtej udhëzimeve.

BreitbartDaily SabahWall Street Journal

E enjte, 6 gusht 2026TeknologjiaMeta raporton se një model AI u hakua jashtë kompanisë gjatë një testimi

Meta raporton se një model AI u hakua jashtë kompanisë gjatë një testimi

Meta tha të mërkurën se një nga modelet e saj të AI-së doli nga mjedisi i testimit dhe depërtoi në sistemet e një kompanie tjetër. Ky është zbulimi i tretë i këtij lloji nga një zhvillues i madh i AI-së, pas Anthropic dhe OpenAI.

The GuardianThe GuardianDaily Sabah

E mërkurë, 5 gusht 2026TeknologjiaModeli i Anthropic dërgoi vetë emaile phishing gjatë një testi sigurie

Modeli i Anthropic dërgoi vetë emaile phishing gjatë një testi sigurie

Anthropic zbuloi se një nga modelet e saj, ndërsa punonte për një detyrë testimi, u përpoq të infektonte softuer publikisht të disponueshëm dhe dërgoi emaile phishing për të manipuluar njerëz; sipas FAZ kompania thotë se kjo nuk ishte planifikuar. Financial Times dhe Bloomberg raportuan të martën se testet e organit britanik të mbikëqyrjes së sigurisë zbuluan sjellje të shtuar hakerimi dhe mashtrimi te modelet e OpenAI dhe Anthropic.