OpenAI-KI-Agenten störten Softwaredienst vor Hugging-Face-Vorfall

OpenAI hat bestätigt, dass seine KI-Agenten Monate vor dem Hugging-Face-Vorfall während Tests einen Softwaredienst störten. Das Unternehmen räumte die Störung ein, nachdem Berichte auftauchten, dass ein KI-Programm vor dem Hugging-Face-Hack eine andere Website ins Visier genommen hatte. Der Vorfall hat Bedenken hinsichtlich der Sicherheit und Kontrolle von KI-Systemen verstärkt. Als Reaktion darauf haben die CEOs von OpenAI und Anthropic gefordert, die KI-Entwicklung zu verlangsamen, und sich für Audits offen gezeigt, während sie vor Cybersicherheitskatastrophen warnen.