Der Leiter des Sicherheitsforschungsteams bei Anthropic, Mrinank Sharma, hat das US-amerikanische KI-Unternehmen nach eigenen Angaben verlassen und vor Gefahren durch künstliche Intelligenz gewarnt. In einem auf der Plattform X veröffentlichten Abschiedsbrief, der bereits millionenfach aufgerufen wurde, schrieb Sharma: „Die Welt ist in Gefahr“ – nicht nur durch KI, sondern durch „eine ganze Reihe miteinander verflochtener Krisen“.
Sharma leitete nach Unternehmensangaben seit dem vergangenen Jahr das Safeguards Research Team bei Anthropic, das sich mit der Entwicklung von Schutzmechanismen gegen den Missbrauch von KI-Systemen befasst. Er habe bei Anthropic „alles erreicht, was er wollte“, erklärte er. Sharma verwies in seinem Brief auf Projekte wie die Entwicklung von Schutzmechanismen zur Verringerung der Risiken von Bioterrorismus, der durch KI gestützt wird, sowie ein Projekt zum Verständnis der Auswirkungen von KI auf die Menschheit.
Sharma zieht Lyrikstudium in Betracht
„Mir ist klar, dass es Zeit ist, weiterzuziehen“, erklärte Sharma und übte anschließend indirekte Kritik an seinem ehemaligen Arbeitgeber.„Während meiner Zeit hier habe ich immer wieder gesehen, wie schwer es ist, unsere Werte tatsächlich unser Handeln bestimmen zu lassen“, schrieb er. In der Organisation, aber auch in sich selbst sehe er „Druck, das Wesentliche beiseitezuschieben“. Konkrete Vorwürfe nannte er nicht.
„Wir scheinen uns einem Punkt zu nähern, an dem unsere Weisheit im gleichen Maß wachsen muss wie unsere Fähigkeit, die Welt zu beeinflussen – andernfalls werden wir die Konsequenzen tragen müssen“, so Sharma weiter.
Sharma war seit laut seinem LinkedIn-Profil seit August 2023 bei Anthropic tätig. Für seine Zukunft kündigte er an, möglicherweise ein Lyrikstudium aufzunehmen und sich „der Praxis mutiger Sprache“ zu widmen. Weder Sharma noch Anthropic reagierten auf Anfragen, berichteten Forbes und Business Insider übereinstimmend.
Sharma ist nicht der einzige Mitarbeiter, der Anthropic kürzlich verlassen hat. Vergangene Woche gaben laut Business Insider auch der Forschungsmitarbeiter Harsh Mehta und der KI-Wissenschaftler Behnam Neyshabur ihren Abschied bekannt, um „etwas Neues zu starten“. Der ehemalige KI-Sicherheitsforscher Dylan Scandinaro wechselte zu OpenAI.
