Najlepsze praktyki wdrażania modeli językowych

Wspólna rekomendacja dotycząca wdrażania modelu językowego

Zalecamy kilka kluczowych zasad, które pomogą dostawcom modeli dużych języków (LLM) zmniejszyć ryzyko związane z tą technologią w celu osiągnięcia pełnej obietnicy zwiększenia ludzkich możliwości.

Chociaż zasady te zostały opracowane specjalnie w oparciu o nasze doświadczenie w dostarczaniu LLM za pośrednictwem interfejsu API, mamy nadzieję, że będą przydatne niezależnie od strategii wydania (takiej jak open-sourcing lub wykorzystanie w firmie). Spodziewamy się, że te zalecenia będą się znacznie zmieniać w czasie, ponieważ komercyjne zastosowania LLM i towarzyszące im względy bezpieczeństwa są nowe i ewoluują. Aktywnie uczymy się o ograniczeniach i możliwościach nadużyć LLM i zajmujemy się nimi, a z czasem będziemy aktualizować te zasady i praktyki we współpracy z szerszą społecznością.

Dzielimy się tymi zasadami w nadziei, że inni dostawcy LLM mogą uczyć się od nich i je stosować, a także rozwijać publiczną dyskusję na temat rozwoju i wdrażania LLM.

Zabroń nadużywania

Opublikuj wytyczne użytkowania i warunki użytkowania LLM w sposób, który zakazuje szkód materialnych dla osób, społeczności i społeczeństwa, takich jak spam, oszustwa lub astroturfing. Wytyczne dotyczące użytkowania powinny również określać domeny, w których stosowanie LLM wymaga dodatkowej kontroli i zabraniać przypadków użycia wysokiego ryzyka, które nie są odpowiednie, takich jak klasyfikowanie osób na podstawie chronionych cech.

Buduj systemy i infrastrukturę, aby egzekwować wytyczne dotyczące użytkowania. Może to obejmować limity szybkości, filtrowanie treści, zatwierdzanie aplikacji przed dostępem produkcyjnym, monitorowanie aktywności anomalii i inne środki zaradcze.

Złagodzić niezamierzone szkody

Aktywne łagodzenie szkodliwego zachowania modeli. Najlepsze praktyki obejmują kompleksową ocenę modelu w celu prawidłowej oceny ograniczeń, minimalizację potencjalnych źródeł uprzedzeń w korpusach szkoleniowych oraz techniki minimalizacji niebezpiecznych zachowań, na przykład poprzez uczenie się na podstawie informacji zwrotnych od ludzi.

Udokumentuj znane słabości i luki w zabezpieczeniach, takich jak stronniczość lub zdolność do tworzenia niezabezpieczonego kodu, ponieważ w niektórych przypadkach żadne działanie zapobiegawcze nie może całkowicie wyeliminować potencjalnej niezamierzonej szkody. Dokumentacja powinna również zawierać najlepsze praktyki bezpieczeństwa dla konkretnego modelu i przypadku użycia.

Rozważna współpraca z interesariuszami

Buduj zespoły o zróżnicowanym pochodzeniu i zabiegać o szeroki wkład. Potrzebne są różne perspektywy, aby scharakteryzować i zająć się sposobem, w jaki modele językowe będą funkcjonować w różnorodności rzeczywistego świata, gdzie niesprawdzone mogą wzmacniać uprzedzenia lub nie sprawdzać się w niektórych grupach.

Ujawniaj publicznie wnioski dotyczące bezpieczeństwa i nadużyć LLM w celu umożliwienia powszechnego przyjęcia i pomocy w międzybranżowej iteracji najlepszych praktyk.

Traktuj wszystkich pracowników w łańcuchu dostaw modelu językowego z szacunkiem. Na przykład dostawcy powinni mieć wysokie standardy dotyczące warunków pracy osób dokonujących przeglądu wyników modeli we własnym zakresie i utrzymywać dostawców zgodnie z dobrze określonymi standardami (np. zapewnienie, aby osoby zajmujące się etykietowaniem mogły zrezygnować z danego zadania).

Jako dostawcy LLM publikowanie tych zasad stanowi pierwszy krok we wspólnym kierowaniu bezpieczniejszym tworzeniem i wdrażaniem modelu dużego języka. Cieszymy się, że możemy kontynuować współpracę ze sobą oraz z innymi podmiotami w celu zidentyfikowania innych możliwości ograniczenia niezamierzonych szkód i zapobiegania złośliwemu używaniu modeli językowych.

Pobierz jako PDF