Claudes Richtlinienfilter blockiert bioinformatische Arbeiten mit Krankheitserreger-Namen.
Ein Postdoktorand im Bereich der Computer-Virologie berichtet über anhaltende Probleme mit Claudes Nutzungsrichtlinien-Filter beim Schreiben von Skripten für phylogenetische Pipelines in der Bioinformatik-Arbeit. Der Forscher nutzt Claude für Sequenz- und Metadatenverarbeitungsaufgaben.
Spezifisches Modellverhalten
Die Richtlinienverletzungsmeldung tritt auf, wenn Krankheitserreger namentlich in Skripten erwähnt werden. Dies geschieht über mehrere Plattformen und Modelle hinweg:
- Betroffene Plattformen: Claude Code und claude.ai
- Betroffene Modelle: Opus 4.6 und Sonnet 4.6
- Nur Sonnet 4 kennzeichnet denselben Inhalt nicht
Aktuelle Umgehungslösungen
Der Forscher hat zwei funktionierende Umgehungsmethoden identifiziert:
- Beschreiben der Bioinformatik-Aufgabe ohne Nennung des spezifischen Organismus
- Hinzufügen des Organismusnamens in angehängten Dateien statt im Prompt-Text
- Zurückgreifen auf Sonnet 4, obwohl dies bedeutet, dass zahlende Nutzer ohne Umgehungslösungen nicht auf die neuesten Modelle zugreifen können
Richtlinienlücke für Forscher
Anthropic verfügt Berichten zufolge über ein Befreiungsformular für Cybersicherheits-Forschung, wenn ähnliche Fehlalarme mit Richtlinienfiltern auftreten. Es existiert jedoch kein gleichwertiges Befreiungsverfahren für Biologie- oder Genomik-Forscher, die mit Krankheitserregern in legitimen Forschungskontexten arbeiten.
Der Forscher ruft andere in der Genomik oder Infektionskrankheiten-Bioinformatik, die ähnliche Fehlalarme erleben, dazu auf, das Bewusstsein für dieses Problem zu schärfen.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Bundesbehörden angewiesen, die Nutzung von Anthropic-KI-Technologie einzustellen
Präsident Donald Trump hat US-Regierungsbehörden angewiesen, die Nutzung von Technologie des KI-Unternehmens Anthropic sofort einzustellen. Die Anordnung erfolgt, während Anthropic unter Druck des Verteidigungsministeriums steht, Nutzungsbeschränkungen für seine KI-Modelle aufzuheben.
CC 2.1.128 Veröffentlichung: Neuer integrierter Hintergrund-Agent, C# Beta-Unterstützung und Modell-Abkündigungen
CC 2.1.128 (+1406 Tokens) enthält eingebaute Anweisungen für Hintergrund-Agenten, C#-Tool-Runner/Managed-Agents-Beta-Support, deprecatiert Sonnet 4 und Opus 4 mit Empfehlung von Opus 4.7/Sonnet 4.6 und entfernt Sitzungsspeicher-Vorlagen.
Anthropic Claude-Benutzer melden stille Funktionseinschränkung bei bezahltem Konto
Ein zahlender Claude-Abonnent berichtet, dass die Ausführung von Shell/Bash-Befehlen in allen Sitzungen ohne Benachrichtigung gestoppt wurde, wobei die Einschränkungen auf Systemprompt-Ebene bei der Bereitstellung implementiert wurden. Der Nutzer reichte mehrere Support-Tickets und Beschwerdeformulare ein, erhielt jedoch keine Antwort, während die Abrechnung weiterlief.
Non-Profit-Organisationen erhalten Zugang zu Claude Opus 4.6 in Team- und Unternehmensplänen.
Gemeinnützige Organisationen, die die Team- und Enterprise-Pläne nutzen, können jetzt ohne zusätzliche Kosten auf Claude Opus 4.6, das neueste KI-Modell von Anthropic, zugreifen.