Anthropic, maker van de AI-chatbot Claude, heeft bekendgemaakt de komende jaren meer te zullen investeren in het beperken van risico’s van haar modellen. Het bedrijf erkent dat eerdere pogingen onvoldoende waren en wil nu samenwerken met partners om betere controlemechanismen te ontwikkelen.
Het bedrijf vraagt andere techbedrijven, onderzoeksinstellingen en overheden om financieel bij te dragen aan deze inspanningen. Anthropic stelt dat alleen een collectieve aanpak kan voorkomen dat AI-modellen buiten controle raken of worden misbruikt voor schadelijke doeleinden.
De aankondiging komt na herhaalde waarschuwingen van experts over de risico’s van ongecontroleerde AI-ontwikkeling. Anthropic benadrukt dat het niet gaat om een tijdelijke maatregel, maar om een structurele verandering in hoe het bedrijf met veiligheid omgaat.
Bron
Wat dit betekent voor jou
Voor bedrijven die gebruikmaken van AI-modellen is deze ontwikkeling relevant omdat het laat zien dat ook grote spelers als Anthropic de noodzaak inzien van strengere kaders. Het roept de vraag op hoe organisaties zelf invulling kunnen geven aan verantwoord gebruik van AI, bijvoorbeeld door interne richtlijnen of samenwerking met derden. De oproep tot collectieve actie onderstreept dat veiligheid in de AI-keten geen zaak is die alleen bij ontwikkelaars ligt.
Editie 452 · Kort