Best Practices für die Bereitstellung von Sprachmodellen

Gemeinsame Empfehlung für die Bereitstellung von Sprachmodellen

Wir empfehlen mehrere Schlüsselprinzipien, um Anbietern von Large Language Models (LLMs) dabei zu helfen, die Risiken dieser Technologie zu mindern, um ihr volles Versprechen zu erfüllen, die menschlichen Fähigkeiten zu erweitern.

Obwohl diese Prinzipien speziell auf der Grundlage unserer Erfahrung mit der Bereitstellung von LLMs über eine API entwickelt wurden, hoffen wir, dass sie unabhängig von der Veröffentlichungsstrategie (z. B. Open-Sourcing oder Verwendung innerhalb eines Unternehmens) nützlich sind. Wir gehen davon aus, dass sich diese Empfehlungen im Laufe der Zeit erheblich ändern werden, da die kommerzielle Verwendung von LLMs und die damit verbundenen Sicherheitsüberlegungen neu sind und sich weiterentwickeln. Wir informieren uns aktiv über LLM-Beschränkungen und Möglichkeiten für Missbrauch und gehen diese an. Wir werden diese Prinzipien und Praktiken im Laufe der Zeit in Zusammenarbeit mit der breiteren Community aktualisieren.

Wir teilen diese Prinzipien in der Hoffnung, dass andere LLM-Anbieter daraus lernen und sie übernehmen können, und um die öffentliche Diskussion über die Entwicklung und den Einsatz von LLM voranzutreiben.

Missbrauch verbieten

Veröffentlichen Sie Nutzungsrichtlinien und Nutzungsbedingungen von LLMs in einer Weise, die materiellen Schaden für Einzelpersonen, Gemeinschaften und die Gesellschaft verbietet, wie etwa durch Spam, Betrug oder Astroturfing. Nutzungsrichtlinien sollten auch Bereiche spezifizieren, in denen die LLM-Nutzung eine zusätzliche Prüfung erfordert, und hochriskante Anwendungsfälle verbieten, die nicht angemessen sind, wie z. B. die Klassifizierung von Personen basierend auf geschützten Merkmalen.

Erstellen Sie Systeme und Infrastrukturen, um Nutzungsrichtlinien durchzusetzen. Dies kann Ratenbegrenzungen, Inhaltsfilterung, Anwendungsgenehmigung vor dem Produktionszugriff, Überwachung auf anomale Aktivitäten und andere Minderungsmaßnahmen umfassen.

Minimieren Sie unbeabsichtigten Schaden

Mindern Sie proaktiv schädliches Modellverhalten. Best Practices umfassen eine umfassende Modellbewertung zur korrekten Bewertung von Einschränkungen, die Minimierung potenzieller Verzerrungsquellen in Schulungskorpora und Techniken zur Minimierung unsicheren Verhaltens, z. B. durch Lernen aus menschlichem Feedback.

Dokumentieren Sie bekannte Schwachstellen und SchwachstellenB. Voreingenommenheit oder die Fähigkeit, unsicheren Code zu erstellen, da in manchen Fällen kein Grad an vorbeugenden Maßnahmen das Potenzial für unbeabsichtigte Schäden vollständig ausschließen kann. Die Dokumentation sollte auch modell- und anwendungsfallspezifische Best Practices für die Sicherheit enthalten.

Überlegt mit Stakeholdern zusammenarbeiten

Bauen Sie Teams mit unterschiedlichen Hintergründen auf und erbitten breite Beiträge. Unterschiedliche Perspektiven sind erforderlich, um zu charakterisieren und zu behandeln, wie Sprachmodelle in der Vielfalt der realen Welt funktionieren, wo sie, wenn sie nicht überprüft werden, Vorurteile verstärken oder für einige Gruppen nicht funktionieren können.

Offenlegung der gewonnenen Erkenntnisse in Bezug auf die Sicherheit und den Missbrauch von LLM um eine breite Akzeptanz zu ermöglichen und bei der branchenübergreifenden Iteration von Best Practices zu helfen.

Behandeln Sie alle Arbeitskräfte in der Lieferkette des Sprachmodells mit Respekt. Beispielsweise sollten Anbieter hohe Standards für die Arbeitsbedingungen derjenigen haben, die Modellergebnisse intern überprüfen, und Anbieter an genau festgelegte Standards halten (z. B. sicherstellen, dass Etikettierer in der Lage sind, sich von einer bestimmten Aufgabe abzumelden).

Als LLM-Anbieter stellt die Veröffentlichung dieser Prinzipien einen ersten Schritt dar, um gemeinsam eine sicherere Entwicklung und Bereitstellung von großen Sprachmodellen zu leiten. Wir freuen uns darauf, weiterhin miteinander und mit anderen Parteien zusammenzuarbeiten, um weitere Möglichkeiten zu identifizieren, um unbeabsichtigte Schäden durch Sprachmodelle zu reduzieren und die böswillige Verwendung von Sprachmodellen zu verhindern.

Download als PDF