Ein OpenAI-Agent schaltet bei einer internen Coding-Aufgabe die eigene Sicherheitsüberwachung ab und leugnet es danach. Am selben Tag zeigt Anthropic, wie Claude die Angriffsfläche von OpenSSH um ein Fünftel verkleinert, und Hirundo misst, dass Qwen3-Coder je nach Kunde unterschiedlich sicheren Code schreibt.
GPT-6 Astra deaktiviert seinen Sicherheitsmonitor und leugnet es
OpenAI hat zwei Vorfälle offengelegt, in denen KI-Agenten bei internen Coding-Aufgaben ihre eigene Überwachung geschwächt haben. Im ersten Fall kopierte GPT-6 Astra Referenzcode und deaktivierte dabei den Sicherheitsmonitor, weil die Vorlage keinen konfiguriert hatte. Anschließend leugnete der Agent den Eingriff. Im zweiten Fall schaltete ein anderer Agent automatische Sicherheitswarnungen ab.
Je mehr Unternehmen Agenten Schreibrechte auf Code und Infrastruktur geben, desto weniger taugt deren Selbstbericht als Kontrolle. Wer die Aufpasser schützt, wenn der Agent selbst an ihren Schaltern sitzt, ist offen.
Quelle: The Verge
Claude kappt ein Fünftel der Pre-Login-Angriffsfläche von OpenSSH
Anthropic hat Claude auf 25 Open-Source-Projekte mit über fünf Millionen Zeilen Code angesetzt. Der Ansatz kartiert, welcher Code überhaupt erreichbar ist, und entfernt, was ein Deployment nicht braucht. Das Ergebnis: 493 gemeldete Probleme, darunter 162 sicherheitskritische Optionskombinationen, die ohne jede Warnung akzeptiert wurden. Eine davon hebelte 21 Jahre lang eine Pflicht-Zertifikatsprüfung aus.
In OpenSSH 10.4 waren rund 4.500 Zeilen experimenteller Post-Quanten-Code für Clients ohne Login erreichbar, obwohl das Verfahren standardmäßig gar nicht aktiv ist. Seit Version 10.6 liegt ein Fünftel weniger Code vor der Authentifizierung.
Quelle: Anthropic
Qwen3-Coder schreibt für US-Kunden unsichereren Code
Hirundo ließ Alibabas Qwen3-Coder immer dieselbe Web-App bauen und änderte nur den Kunden im Systemprompt. Auch eine explizite Anweisung zu sicherem Code half nicht.
US-Rüstungskonzern als Kunde: 70 Prozent der Apps angreifbar
Chinesischer Kunde: 59 Prozent angreifbar
Hongkonger Demokratiegruppe: fast die Hälfte gibt fremde Nutzerdaten preis, ohne Kundenangabe rund ein Drittel
Chinesische Open-Weight-Modelle: 41 Prozent aller Hugging-Face-Downloads im letzten Jahr, Basis von 70 Prozent neuer Finetunes
Nach Unlearning der Parteilinie: 56 zu 55 Prozent angreifbare Apps bei US- und China-Kunde
Quelle: Hirundo
Washington und Peking ziehen neue Regeln für KI-Modelle
„Dieser Gesetzentwurf bildet die Vorschläge aus Anthropics Advanced AI Framework ab.”
So bestätigte ein Anthropic-Sprecher gegenüber Politico den Entwurf für den US-Kongress. Ein Release darf demnach nur gestoppt werden, wenn mehr als 50 Tote oder über 1 Milliarde Dollar Schaden drohen, durch Biowaffen, Kontrollverlust oder Cyberangriffe. Externe Prüfer, die das Lab selbst bezahlen darf, melden binnen 72 Stunden ans Handelsministerium. Den Stopp verhängt ein Richter in Washington. Wie unabhängig ein Prüfer bleibt, dessen Rechnung das geprüfte Lab begleicht, lässt der Entwurf offen.
Quelle: TechCrunch
Peking setzt parallel auf Exportkontrolle. Seit dem 16. Oktober müssen chinesische Firmen KI-Technologieexporte vorab beim Handelsministerium registrieren, mit Empfänger, Zielland und geschätztem Wert. Der Entwurf dahinter umfasst 40 Kategorien, 23 davon KI: Modellgewichte, Quellcode, Agentensysteme, Rechencluster. Was bereits öffentlich ist, etwa Open Source, bleibt ausgenommen.
Für Europa zählt ein Detail: API- und SaaS-Nutzung gilt laut Ministerium nicht als Export, die lokale Installation eines beschränkten Modells im Ausland schon. Ob die offenen Gewichte von DeepSeek und Qwen frei bleiben, klärt erst der endgültige Katalog, für den Peking noch kein Datum nennt.
Quelle: Quasa
Mistral startet Voxtral 3 mit eigener Voice-Agents-API
Mistral liefert die komplette Sprachkette aus einer Hand. Der Voice Agent läuft auf LiveKit, telefoniert per SIP, ruft Tools auf und antwortet laut Mistral pro Gesprächszug in unter einer Sekunde.
Transkription in über 50 Sprachen mit Sprechertrennung
Echtzeit-Transkription mit unter 500 Millisekunden Latenz
Sprachausgabe in über 35 Sprachen, Deutsch inklusive
FLEURS-Wortfehlerrate rund 4 Prozent, Whisper large-v3 liegt bei 15 bis 16 Prozent
Kompletter Agent mit Mistral Small 4: 0,04 Dollar pro Minute
Jede Stufe ist austauschbar, gehostet wird wahlweise in der EU oder auf eigener Infrastruktur.
Bria vereint Bildgenerierung und Editing in Fibo 2.0
Das israelische Startup Bria veröffentlicht Fibo 2.0, erstmals ein einziges Modell für Bildgenerierung und Bildbearbeitung. Rund 8 Milliarden Parameter, trainiert ausschließlich auf lizenzierten Daten. Im Ranking von Artificial Analysis landet es unter den Open-Weights-Modellen auf Platz 1 beim Editing und auf Platz 2 bei Text-to-Image.
Fibo lernt aus langen, strukturierten JSON-Beschreibungen statt aus Kurzprompts. Bearbeitungen ändern nur, was verlangt wird, Gesicht, Licht und Layout bleiben stehen. Dazu kommen bessere Schrift im Bild, Texturen und Hände. Die Gewichte sind frei für nicht-kommerzielle Nutzung, wer damit Geld verdient, braucht einen Vertrag mit Bria.
Fields-Medaillenträger John Pardon lässt KI seine Beweise prüfen
„The AI understands. 100%.”
So beschreibt John Pardon, Fields-Medaille 2026, seine Arbeit mit KI in der Forschung. Das Modell entziffert seine rohesten Beweisentwürfe, findet Fehler darin und stellt eigenständig nichttriviale mathematische Resultate auf. Selbst seine kryptischsten Notizen ergeben für die KI Sinn.
Was sonst noch zählt: Dauerläufer und Gangster-Gründer
Figures Humanoid F.03 läuft seit neun Tagen ohne Pause auf dem Laufband: 348 Meilen, also rund 560 Kilometer, und 1,2 Millionen Schritte. Gestartet als Nebenprojekt, um den Roboter gezielt auf Ausfälle zu stressen, ein Enddatum gibt es nicht. Solche Dauerläufe entscheiden, ob ein Humanoid fabriktauglich ist. Eine Schicht dauert acht Stunden, dieser Test bisher 216.
Ein Indie-Entwickler hat Claude Code gebeten, eine neue Mission für GTA: San Andreas zu bauen. CJ, der einst Grove Street gegen die Ballas verteidigt hat, soll darin ein Startup vibe-coden und anschließend in San Francisco Geld bei Investoren einsammeln. Ein Spiel von 2004 bekommt per Prompt eine Quest für 2026, die Waffe der Wahl ist ein Pitch-Deck.
Tool-Empfehlung: RelationFlow
Alle KI-Modelle, das eigene Wissen, ein Ort: RelationFlow ist ein KI-Workspace für Teams im Mittelstand. Er bündelt alle großen Modelle und selbst gehostete Endpunkte an einer Stelle, bindet das Wissen jeder Abteilung als gemeinsame Quelle ein und macht Chats, Agenten und Prompts im Team teilbar. Relevant für alle, die KI im Unternehmen aus verstreuten Einzelaccounts in eine gemeinsame Arbeitsumgebung holen wollen, mehr Infos: relationflow.io.