Anthropic nu lansează public modelul AI Claude Mythos din cauza riscurilor de exploatare a vulnerabilităților software. Legislația europeană oferă protecție.
- Anthropic nu va lansa public noul model AI Claude Mythos Preview din cauza îngrijorărilor legate de abilitățile sale avansate în descoperirea vulnerabilităților software
- Modelul va fi accesibil doar unui grup restrâns de organizații din tehnologie și securitate cibernetică prin inițiativa Project Glasswing
- Legislația europeană, EU AI Act, impune companiilor să implementeze măsuri de gestionare a riscurilor pentru a limita utilizarea abuzivă a modelului
- Progresele în tehnologie nu pot fi oprite, iar capabilități avansate pot fi dezvoltate și în alte jurisdicții, creând riscuri structurale global
Context
Anthropic a decis să nu lanseze public noul model AI, Claude Mythos Preview, din motive legate de preocupările privind siguranța publică și securitatea infrastructurii digitale. Modelul are capabilități avansate, putând depăși expertiza umană în descoperirea vulnerabilităților software, ceea ce ridică riscuri considerabile pentru economiile și securitatea națională.
Impact
Decizia de a restricționa accesul la Claude Mythos are implicații semnificative asupra securității cibernetice. Fără o reglementare strictă, modelele avansate de AI ar putea fi utilizate în scopuri malefice, facilitând atacuri cibernetice sofisticate. Asimetria dintre reglementările europene și progresele tehnologice din alte regiunii ar putea amplifica riscurile, afectând infrastructura digitală globală.
Clarificări
Tehnologia AI nu este inofensivă
Confuzie: Mulți consideră că progresele în AI sunt benefice și nu ar putea fi folosite în scopuri negative.
Realitate: Tehnologia AI are potențialul de a fi folosită atât pentru protecție, cât și pentru atacuri, având nevoie de reglementări stricte pentru a preveni abuzul.
Legislația poate limita riscurile, dar nu le poate elimina complet
Confuzie: Se crede că reglementările, cum ar fi EU AI Act, pot opri total dezvoltarea unor tehnologii riscante.
Realitate: Deși reglementările pot crea un cadru de siguranță, tehnologia avansează rapid și poate apărea în alte jurisdicții fără constrângeri, făcându-o greu de controlat.
De știut
- Rămâi informat despre evoluțiile în legislația AI și impactul acestora asupra securității cibernetice.
- Susține inițiativele care promovează un utilizare responsabilă a tehnologiei AI.
- Fii activ în discuțiile despre etica și reglementarea AI pentru a proteja infrastructura digitală.
Întreabă 365 Stiri:
Sursa originală a acestui articol este https://hotnews.ro/consecintele-pentru-siguranta-publica-pot-fi-severe-de-ce-alege-anthropic-sa-nu-lanseze-public-noul-model-ai-si-cum-ne-poate-proteja-legislatia-europeana-2216049
