Claudes Richtlinienfilter blockiert bioinformatische Arbeiten mit Krankheitserreger-Namen.
Ein Postdoktorand im Bereich der Computer-Virologie berichtet über anhaltende Probleme mit Claudes Nutzungsrichtlinien-Filter beim Schreiben von Skripten für phylogenetische Pipelines in der Bioinformatik-Arbeit. Der Forscher nutzt Claude für Sequenz- und Metadatenverarbeitungsaufgaben.
Spezifisches Modellverhalten
Die Richtlinienverletzungsmeldung tritt auf, wenn Krankheitserreger namentlich in Skripten erwähnt werden. Dies geschieht über mehrere Plattformen und Modelle hinweg:
- Betroffene Plattformen: Claude Code und claude.ai
- Betroffene Modelle: Opus 4.6 und Sonnet 4.6
- Nur Sonnet 4 kennzeichnet denselben Inhalt nicht
Aktuelle Umgehungslösungen
Der Forscher hat zwei funktionierende Umgehungsmethoden identifiziert:
- Beschreiben der Bioinformatik-Aufgabe ohne Nennung des spezifischen Organismus
- Hinzufügen des Organismusnamens in angehängten Dateien statt im Prompt-Text
- Zurückgreifen auf Sonnet 4, obwohl dies bedeutet, dass zahlende Nutzer ohne Umgehungslösungen nicht auf die neuesten Modelle zugreifen können
Richtlinienlücke für Forscher
Anthropic verfügt Berichten zufolge über ein Befreiungsformular für Cybersicherheits-Forschung, wenn ähnliche Fehlalarme mit Richtlinienfiltern auftreten. Es existiert jedoch kein gleichwertiges Befreiungsverfahren für Biologie- oder Genomik-Forscher, die mit Krankheitserregern in legitimen Forschungskontexten arbeiten.
Der Forscher ruft andere in der Genomik oder Infektionskrankheiten-Bioinformatik, die ähnliche Fehlalarme erleben, dazu auf, das Bewusstsein für dieses Problem zu schärfen.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Waymo startet vollständig autonome Einsätze mit der 6. Generation des Fahrzeugs.
Waymos 6. Generation des Fahrers beginnt mit vollautonomen Operationen und bietet ein multimodales Sensorsystem sowie moderne 17-Megapixel-Bildsensoren.
OpenClaw-Entwickler meldet Kontextkompaktierungsprobleme während des Driftwatch V3-Builds
Ein OpenClaw-Entwickler schloss die Sprints 2–4 des Driftwatch-V3-Builds ab, stieß jedoch auf Kontextkomprimierungsprobleme, die den Speicher des KI-Agenten mitten in der Sitzung löschten, was manuelle Eingriffe zur Wiederherstellung des Fortschritts mithilfe von Sprint-Zusammenfassungen erforderte.
Google Chrome installiert 4 GB Gemini Nano KI-Modell stillschweigend – ohne Nutzerzustimmung
Es wurde festgestellt, dass Google Chrome das 4 GB große KI-Modell Gemini Nano ohne ausdrückliche Zustimmung auf Benutzergeräten herunterlädt und installiert, was Datenschutz- und Speicherbedenken aufwirft.
OpenClaw-Treffen in Peking lockt zahlreiches technisches Publikum an
Ein OpenClaw-Meetup in Peking war bis auf den letzten Platz gefüllt, wobei Entwickler detaillierte Fragen zu Multi-Agenten-Orchestrierung, autonomen Schleifen und privaten Bereitstellungen stellten. Das Publikum war besonders auf eine Demo fokussiert, die zeigte, wie Planner-, Developer- und Verifier-Agenten autonom zusammenarbeiten, um ein Ein-Personen-Unternehmen zu betreiben.