În ultimul an, serviciile Amazon Web Services (AWS) au fost afectate de două întreruperi neașteptate, conform unui raport publicat de Financial Times. Cauza? Un bot de codare bazat pe inteligență artificială care a șters accidental mediul în care opera, provocând o pană de 13 ore în decembrie 2023.
Deși Amazon a catalogat incidentele drept „erori ale utilizatorului”, nu ale AI-ului, situația ridică întrebări importante despre modul în care tehnologiile avansate sunt integrate în procesele critice.
Ce s-a întâmplat, mai exact?
Potrivit surselor citate de Financial Times, un angajat AWS de nivel senior a declarat că inginerii au permis unui bot AI să rezolve o problemă fără supraveghere. Rezultatul? Două întreruperi de producție, deși minore. Una dintre ele a afectat un singur serviciu în anumite zone din China continentală, în timp ce cealaltă nu a avut un impact semnificativ asupra clienților.
Amazon a respins ideea că aceste incidente ar fi fost cauzate direct de AI. Compania a susținut că aceleași probleme ar fi apărut și în cazul utilizării altor instrumente de dezvoltare sau chiar în urma unei acțiuni manuale. „În ambele cazuri, a fost vorba despre o eroare a utilizatorului, nu a inteligenței artificiale”, a transmis Amazon.
De ce au apărut aceste erori?
Conform angajaților AWS, instrumentele AI sunt tratate ca parte integrantă a utilizatorului care le operează, primind aceleași permisiuni. În cazul celor două incidente, inginerii implicați nu au solicitat o aprobare secundară înainte de a permite botului să efectueze modificări. Astfel, AI-ul a aplicat schimbările care au dus la defectarea sistemelor.
Amazon a clasificat problema drept una legată de controlul accesului utilizatorilor, nu de funcționalitatea AI-ului. Cu toate acestea, compania a asigurat că a luat măsuri pentru a preveni astfel de situații pe viitor, reducând riscurile asociate cu utilizarea necontrolată a agenților AI.
Impactul asupra industriei tech
Amazon nu este singura companie care integrează instrumente AI în procesele sale. De exemplu:
- Microsoft a anunțat că aproximativ 30% din codul său este scris cu ajutorul inteligenței artificiale.
- Nvidia folosește o versiune specializată a instrumentului Cursor AI, iar CEO-ul Jensen Huang a transmis managerilor săi un mesaj clar: „Sunteți nebuni dacă nu folosiți AI?”
Creșterea utilizării AI în dezvoltarea software are însă și efecte secundare. Studiile arată o scădere de 13% a posturilor de entry-level în domeniul programării în ultimii trei ani, ceea ce ridică îngrijorări cu privire la impactul pe termen lung al automatizării asupra locurilor de muncă din sectorul tech.
Ce învățăminte putem trage?
Incidentele AWS subliniază importanța unei implementări responsabile a tehnologiilor AI. Deși aceste instrumente pot accelera procesele și pot reduce efortul uman, ele trebuie utilizate cu precauție, mai ales în medii critice. Supravegherea umană și mecanismele de control rămân esențiale pentru a preveni erorile costisitoare.
Pe măsură ce companiile continuă să adopte soluții bazate pe inteligență artificială, este crucial să găsească un echilibru între inovație și siguranță, asigurându-se că tehnologia este un aliat, nu o sursă de probleme.
