Noul model AI Claude Mythos al Anthropic este considerat prea periculos pentru a fi lansat public, având capacități alarmante în securitatea cibernetică.
- Anthropic avertizează asupra pericolelor modelului AI Claude Mythos, considerat prea avansat pentru a fi lansat public.
- Modelul poate identifica și exploata vulnerabilități în infrastructuri critice, inclusiv rețele electrice și spitale.
- Accesul va fi oferit doar unui grup selectat de organizații, în cadrul Proiectului Glasswing.
- Criticii consideră că acest proiect ar putea favoriza compania și că transparența este insuficientă în reglementarea tehnologiei.
Context
Recent, compania Anthropic a atras atenția asupra riscurilor potențiale asociate cu modelul său avansat de inteligență artificială, „Claude Mythos”. Analizând capacitățile acestui sistem, s-a constatat că poate exploata vulnerabilități semnificative din infrastructuri critice, punând astfel în pericol securitatea cibernetică globală. Decizia de a limita accesul la acest model reflectă o preocupare crescută față de riscurile pe care tehnologia AI le poate genera într-o lume interconectată.
Impact
Relația dintre inovațiile tehnologice și securitatea națională este una complexă. Accesul limitat la „Claude Mythos” pentru un număr restrâns de organizații poate contribui la îmbunătățirea apărării cibernetice, însă riscurile de scurgere de informații și utilizarea tehnologiei în scopuri dăunătoare rămân semnificative. Această abordare ridică întrebări despre responsabilitatea companiilor tehnologice în gestionarea avansului rapid al AI și implicațiile etice ale deciziilor lor.
Clarificări
AI avansată poate fi controlată
Confuzie: Se crede că modelele avansate de AI nu pot fi gestionate sau controlate eficient.
Realitate: Cu măsuri adecvate, inclusiv teste riguroase și reglementări stricte, se pot gestiona riscurile asociate cu AI avansată, asigurându-se utilizarea ei în beneficii sociale.
Transparența în utilizarea AI-ului este crucială
Confuzie: Există o percepție că informațiile despre tehnologiile AI sunt închise și inaccesibile publicului.
Realitate: Această tehnologie poate beneficia de la o mai mare transparență și participare din partea comunităților de expertiză și a publicului, ceea ce poate conduce la dezvoltarea unor soluții mai sigure și mai eficiente.
De știut
- Informează-te despre evoluțiile tehnologice și riscurile asociate cu AI.
- Participă la discuții despre etica și reglementarea AI pentru a promova responsabilitatea.
- Susține inițiativele care examinează utilizarea responsabilă a inteligenței artificiale în societate.
Întreabă 365 Stiri:
Sursa originală a acestui articol este https://adevarul.ro/stil-de-viata/tehnologie/noul-model-ai-al-anthropic-prea-periculos-pentru-2521742.html
