Zusammenfassung:
OpenAI hat kürzlich angekündigt, dass es in den nächsten Wochen die Beschränkungen von ChatGPT für gewaltbezogene Inhalte verschärfen und den Schutz für Waffen und Sicherheitssysteminformationen für minderjährige Benutzer hinzufügen wird. Den neuen Maßnahmen zufolge kann ChatGPT das Gespräch selbstständig beenden, wenn aus dem Gespräch hervorgeht, dass sich der Benutzer weiterhin auf Gewalt oder die Idee, anderen ernsthaft zu schaden, konzentriert. Wenn das Gespräch aufgrund solcher Probleme mehrmals beendet wird, kann es sogar zu einer Sperrung des Kontos kommen.
Die ursprüngliche Richtlinie von ChatGPT verbietet die Bereitstellung von Anleitungen, die Benutzern bei der Planung oder Durchführung von Gewalttaten helfen. Durch diese Anpassung werden die vom Modell bereitgestellten Details bei der Beantwortung von Fragen zu „vergangenen Großangriffen und Tätern“ eingeschränkt, d. h. das Modell reduziert den Inhalt oder verweigert sogar die Beantwortung aus Sicherheitsgründen.
Der Umfang der Einschränkungen umfasst die Nachbildung der am Angriff beteiligten Waffen, Ausrüstung und Beschaffungsmethoden sowie die Einschränkung von Benutzeranfragen für detaillierte Vergleiche des Schadensausmaßes, die die Sichtbarkeit des Angreifers erhöhen können. Die oben genannten Einschränkungen gelten für alle Benutzer, unabhängig von der Altersgruppe oder dem Zweck, Fragen zu stellen, sodass auch erwachsene Benutzer denselben Einschränkungen unterliegen.
Für Benutzer unter 18 Jahren schränkt OpenAI außerdem nützliche Informationen über Waffen und Sicherheitssysteme ein, die zur Ausübung von Gewalt verwendet werden können. Dieser Schutz gilt auch für Probleme, die oberflächlich betrachtet nicht auf eine gewalttätige Absicht schließen lassen. Laut OpenAI können Jugendliche weiterhin ChatGPT nutzen, um Hilfe zu erhalten, zu lernen, wie man Gewalt verhindert oder deeskaliert, und mit vertrauenswürdigen Erwachsenen in Kontakt zu treten.
Der verbesserte Mechanismus zur Altersvorhersage kombiniert verschiedene Signale wie das Nutzerverhalten, um kontinuierlich zu bewerten, ob das Konto möglicherweise einem Minderjährigen gehört. Gegebenenfalls wendet das System automatisch entsprechende Schutzmaßnahmen für Benutzer unter 18 Jahren an. Wenn ein Benutzer fälschlicherweise als minderjährig identifiziert wird, kann er seine Identitätsinformationen auch aktiv zur Überprüfung einreichen.
Kommentare