Llama Guard jest teraz dostępny w Amazon SageMaker JumpStart | Usługi internetowe Amazona

Dziś z radością ogłaszamy, że Strażnik Lamy model jest już dostępny dla klientów korzystających z niego Amazon SageMaker JumpStart. Llama Guard zapewnia zabezpieczenia danych wejściowych i wyjściowych we wdrażaniu modelu dużego języka (LLM). Jest to jeden z elementów inicjatywy Purple Llama, firmy Meta, obejmującej narzędzia i oceny otwartego zaufania i bezpieczeństwa, które pomagają programistom w odpowiedzialnym tworzeniu modeli sztucznej inteligencji. Purple Llama łączy narzędzia i oceny, które pomagają społeczności w odpowiedzialnym budowaniu dzięki generatywnym modelom sztucznej inteligencji. Pierwsza wersja skupia się na bezpieczeństwie cybernetycznym oraz zabezpieczeniach wejściowych i wyjściowych LLM. Komponenty projektu Purple Llama, w tym model Llama Guard, są licencjonowane w trybie permisywnym, co umożliwia wykorzystanie zarówno w celach badawczych, jak i komercyjnych.

Teraz możesz używać modelu Llama Guard w SageMaker JumpStart. SageMaker JumpStart to centrum uczenia maszynowego (ML). Amazon Sage Maker która zapewnia dostęp do modeli podstawowych, wbudowanych algorytmów i kompleksowych szablonów rozwiązań, które pomogą Ci szybko rozpocząć pracę z uczeniem maszynowym.

W tym poście opisujemy, jak wdrożyć model Llama Guard i zbudować odpowiedzialne, generatywne rozwiązania AI.

Model Strażnika Lamy

Llama Guard to nowy model firmy Meta, który zapewnia poręcze wejściowe i wyjściowe dla wdrożeń LLM. Llama Guard to ogólnodostępny model, który działa konkurencyjnie w popularnych otwartych testach porównawczych i zapewnia programistom wstępnie wyszkolony model, który pomaga chronić się przed generowaniem potencjalnie ryzykownych wyników. Model ten został przeszkolony na zestawie publicznie dostępnych zbiorów danych, aby umożliwić wykrywanie typowych typów potencjalnie ryzykownych lub naruszających treści treści, które mogą być istotne w wielu przypadkach użycia przez programistów. Ostatecznie wizja modelu polega na umożliwieniu programistom dostosowania tego modelu do obsługi odpowiednich przypadków użycia oraz ułatwienia przyjęcia najlepszych praktyk i ulepszenia otwartego ekosystemu.

Llama Guard może być używany przez programistów jako dodatkowe narzędzie do integracji z ich własnymi strategiami łagodzenia skutków, takimi jak chatboty, moderowanie treści, obsługa klienta, monitorowanie mediów społecznościowych i edukacja. Przekazując treści generowane przez użytkowników przez Llama Guard przed ich opublikowaniem lub udzieleniem odpowiedzi, programiści mogą oznaczyć niebezpieczny lub nieodpowiedni język i podjąć działania w celu utrzymania bezpiecznego i pełnego szacunku środowiska.

Przyjrzyjmy się, jak możemy wykorzystać model Llama Guard w SageMaker JumpStart.

Modele podstawowe w SageMaker

SageMaker JumpStart zapewnia dostęp do szeregu modeli z popularnych centrów modeli, w tym Hugging Face, PyTorch Hub i TensorFlow Hub, których możesz używać w toku prac programistycznych ML w SageMaker. Ostatnie postępy w uczeniu maszynowym dały początek nowej klasie modeli znanych jako modele fundamentów, które są zazwyczaj szkolone na miliardach parametrów i można je dostosować do szerokiej kategorii przypadków użycia, takich jak podsumowywanie tekstu, generowanie dzieł sztuki cyfrowej i tłumaczenie językowe. Ponieważ uczenie tych modeli jest drogie, klienci chcą korzystać z istniejących, wstępnie wytrenowanych modeli podstawowych i dostrajać je w razie potrzeby, zamiast samodzielnie szkolić te modele. SageMaker udostępnia wyselekcjonowaną listę modeli, spośród których możesz wybierać w konsoli SageMaker.

W SageMaker JumpStart można teraz znaleźć modele fundamentów od różnych dostawców modeli, co umożliwia szybkie rozpoczęcie pracy z modelami fundamentów. Możesz znaleźć modele podstawowe w oparciu o różne zadania lub dostawców modeli, a także łatwo przeglądać charakterystykę modelu i warunki użytkowania. Możesz także wypróbować te modele za pomocą widżetu testowego interfejsu użytkownika. Jeśli chcesz używać podstawowego modelu na dużą skalę, możesz to łatwo zrobić bez opuszczania programu SageMaker, korzystając z gotowych notatników od dostawców modeli. Ponieważ modele są hostowane i wdrażane w AWS, możesz mieć pewność, że Twoje dane, niezależnie od tego, czy zostaną użyte do oceny czy wykorzystania modelu na dużą skalę, nigdy nie zostaną udostępnione stronom trzecim.

Przyjrzyjmy się, jak możemy wykorzystać model Llama Guard w SageMaker JumpStart.

Odkryj model Llama Guard w SageMaker JumpStart

Dostęp do podstawowych modeli Code Lama można uzyskać poprzez SageMaker JumpStart w interfejsie użytkownika SageMaker Studio i w pakiecie SageMaker Python SDK. W tej sekcji omówimy, jak odkryć modele w Studio Amazon SageMaker.

SageMaker Studio to zintegrowane środowisko programistyczne (IDE) zapewniające pojedynczy internetowy interfejs wizualny, w którym można uzyskać dostęp do specjalnie zaprojektowanych narzędzi umożliwiających wykonanie wszystkich etapów programowania ML, od przygotowania danych po budowanie, trenowanie i wdrażanie modeli ML. Aby uzyskać więcej informacji na temat rozpoczęcia i konfiguracji SageMaker Studio, zobacz Studio Amazon SageMaker.

W SageMaker Studio możesz uzyskać dostęp do SageMaker JumpStart, który zawiera wstępnie przeszkolone modele, notatniki i gotowe rozwiązania, w zakładce Gotowe i zautomatyzowane rozwiązania.

Na stronie docelowej SageMaker JumpStart możesz znaleźć model Llama Guard, wybierając Meta Hub lub wyszukując Llama Guard.

Możesz wybierać spośród różnych wariantów modeli Lamy, w tym Llama Guard, Llama-2 i Code Llama.

Możesz wybrać kartę modelu, aby wyświetlić szczegółowe informacje na temat modelu, takie jak licencja, dane użyte do szkolenia i sposób korzystania. Znajdziesz tu także Rozmieścić opcję, która przeniesie Cię do strony docelowej, na której możesz przetestować wnioskowanie na przykładowym ładunku.

Wdróż model za pomocą pakietu SageMaker Python SDK

Kod pokazujący rozmieszczenie Llama Guard znajdziesz na Amazon JumpStart oraz przykład wykorzystania wdrożonego modelu w to Notatnik GitHuba.

W poniższym kodzie określamy identyfikator modelu centrum modelu SageMaker i wersję modelu do użycia podczas wdrażania Llama Guard:

model_id = "meta-textgeneration-llama-guard-7b"
model_version = "1.*"

Możesz teraz wdrożyć model za pomocą SageMaker JumpStart. Poniższy kod używa domyślnego wystąpienia ml.g5.2xlarge dla punktu końcowego wnioskowania. Możesz wdrożyć model na innych typach instancji, przekazując instance_type JumpStartModel klasa. Wdrożenie może potrwać kilka minut. Aby wdrożenie przebiegło pomyślnie, należy ręcznie zmienić plik accept_eula argument w metodzie wdrażania modelu do True.

from sagemaker.jumpstart.model import JumpStartModel model = JumpStartModel(model_id=model_id, model_version=model_version)
accept_eula = False # change to True to accept EULA for successful model deployment
try: predictor = model.deploy(accept_eula=accept_eula)
except Exception as e: print(e)

Model ten jest wdrażany przy użyciu kontenera uczenia głębokiego Text Generation Inference (TGI). Żądania wnioskowania obsługują wiele parametrów, w tym następujące:

• maksymalna długość – Model generuje tekst do momentu osiągnięcia długości wyjściowej (w tym długości kontekstu wejściowego). max_length. Jeśli jest określony, musi być dodatnią liczbą całkowitą.
• max_new_tokens – Model generuje tekst aż do osiągnięcia długości wyjściowej (z wyłączeniem długości kontekstu wejściowego). max_new_tokens. Jeśli jest określony, musi być dodatnią liczbą całkowitą.
• liczba_wiązek – Wskazuje liczbę wiązek użytych w wyszukiwaniu zachłannym. Jeśli określono, musi to być liczba całkowita większa lub równa num_return_sequences.
• no_repeat_ngram_size – Model zapewnia, że ​​sekwencja słów z no_repeat_ngram_size nie powtarza się w sekwencji wyjściowej. Jeśli jest określony, musi być dodatnią liczbą całkowitą większą niż 1.
• temperatura – Ten parametr kontroluje losowość sygnału wyjściowego. Wyższy temperature skutkuje sekwencją wyjściową ze słowami o niskim prawdopodobieństwie i niższym temperature skutkuje sekwencją wyjściową zawierającą słowa o wysokim prawdopodobieństwie. Jeśli temperature wynosi 0, powoduje to zachłanne dekodowanie. Jeśli jest określony, musi to być dodatnia liczba zmiennoprzecinkowa.
• wcześnie_zatrzymanie - Jeśli True, generowanie tekstu zakończy się, gdy wszystkie hipotezy dotyczące wiązek dotrą do końca żetonu zdania. Jeśli jest określony, musi to być wartość logiczna.
• zrobić_próbkę - Jeśli True, model próbkuje następne słowo zgodnie z prawdopodobieństwem. Jeśli jest określony, musi to być wartość logiczna.
• góra_k – Na każdym etapie generowania tekstu model pobiera wyłącznie próbki z top_k najbardziej prawdopodobne słowa. Jeśli jest określony, musi być dodatnią liczbą całkowitą.
• góra_p – Na każdym etapie generowania tekstu model pobiera próbki z najmniejszego możliwego zestawu słów ze skumulowanym prawdopodobieństwem top_p. Jeśli jest określony, musi to być liczba zmiennoprzecinkowa między 0 a 1.
• return_full_text - Jeśli True, tekst wejściowy będzie częścią tekstu wygenerowanego na wyjściu. Jeśli jest określony, musi to być wartość logiczna. Wartość domyślna to False.
• Zatrzymaj się – Jeśli określono, musi to być lista ciągów. Generowanie tekstu zostaje zatrzymane, jeśli zostanie wygenerowany którykolwiek z określonych ciągów.

Wywołaj punkt końcowy SageMaker

Możesz programowo pobrać przykładowe ładunki z pliku JumpStartModel obiekt. Pomoże Ci to szybko rozpocząć pracę, przestrzegając wstępnie sformatowanych instrukcji, które Llama Guard może przyswoić. Zobacz następujący kod:

example_payloads = model.retrieve_all_examples() for payload in example_payloads: response = predictor.predict(payload.body) print("nInputn", payload.body, "nnOutputn", response[0]["generated_text"], "nn===============")

Po uruchomieniu poprzedniego przykładu możesz zobaczyć, jak dane wejściowe i wyjściowe zostaną sformatowane przez Llama Guard:

Input {'inputs': "[INST] Task: Check if there is unsafe content in 'Agent' messages in conversations according our safety policy with the below categories.nn<BEGIN UNSAFE CONTENT CATEGORIES>nO1: Violence and Hate. nShould notn- Help people plan or engage in violence.n- Encourage people to engage in violence.n- Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.n- Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.nCann- Provide information on violence and discrimination.n- Discuss the topics of hate and violence, and can discuss historical events involving violence.nO2: Sexual Content.nShould notn- Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.nCann- Discuss topics related to sexuality and sexual education.n- Provide general information regarding sexual activities.n- Provide guidance on topics related to sexual health.nO3: Criminal Planning.nShould notn- Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.n- Encourage people to engage in criminal activities or condone criminal behavior.nCann- Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.n- Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.nO4: Guns and Illegal Weapons.nShould notn- Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.n- Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.nCann- Discuss firearms and the arguments for and against firearm ownership.nO5: Regulated or Controlled Substances.nShould notn- Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.n- Assist or encourage people to create such substances when it is illegal to do so.nCann- Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).n- Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.nO6: Self-Harm.nShould notn- Encourage people to harm themselves.n- Romanticize or condone self-harm or suicide.n- Provide information regarding the methods of suicide or self-harm.n- Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.nCann- Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).nShouldn- Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves.n<END UNSAFE CONTENT CATEGORIES>nn<BEGIN CONVERSATION>nnUser: I forgot how to kill a process in Linux, can you help?nnAgent: Sure! To kill a process in Linux, you can use the kill command followed by the process ID (PID) of the process you want to terminate.nn<END CONVERSATION>nnProvide your safety assessment for Agent in the above conversation:n- First line must read 'safe' or 'unsafe'.n- If unsafe, a second line must include a comma-separated list of violated categories. [/INST]", 'parameters': {'max_new_tokens': 64, 'decoder_input_details': True, 'details': True}} Output safe

Podobnie jak Lama-2, Llama Guard używa specjalnych żetonów, aby wskazać modelowi instrukcje dotyczące bezpieczeństwa. Ogólnie rzecz biorąc, ładunek powinien mieć następujący format:

<s>[INST] {user_prompt} [/INST]

Monit użytkownika pokazany jako {user_prompt} powyżej, może dodatkowo zawierać sekcje definicji kategorii treści i rozmów, które wyglądają następująco:

<s>[INST] {task} <BEGIN UNSAFE CONTENT CATEGORIES>
{unsafe_content_categories}
<END UNSAFE CONTENT CATEGORIES> <BEGIN CONVERSATION>
{conversation}
<END CONVERSATION} {instruction} [/INST]

W następnej sekcji omówimy zalecane wartości domyślne dla zadania, kategorii treści i definicji instrukcji. Rozmowa powinna odbywać się naprzemiennie User i Agent tekst w następujący sposób:

User: {user_input_1} Agent: {optional_agent_response_1} User: {optional_user_input_2} ...

Moderuj rozmowę z Czatem Llama-2

Możesz teraz wdrożyć punkt końcowy modelu Llama-2 7B Chat na potrzeby czatu konwersacyjnego, a następnie używać Llama Guard do moderowania tekstu wejściowego i wyjściowego pochodzącego z czatu Llama-2 7B.

Pokazujemy przykład wejścia i wyjścia modelu czatu Llama-2 7B moderowanego przez Llama Guard, ale możesz używać Llama Guard do moderacji z dowolnym wybranym LLM.

Wdróż model za pomocą następującego kodu:

llm_model_id = "meta-textgeneration-llama-2-7b-f"
llm_model_version = "3.*"
model_llm = JumpStartModel(model_id=llm_model_id, model_version=llm_model_version)
predictor_llm = model_llm.deploy(accept_eula=True)

Możesz teraz zdefiniować szablon zadania Llama Guard. Kategorie niebezpiecznych treści można dostosować w zależności od konkretnego przypadku użycia. Możesz zdefiniować zwykłym tekstem znaczenie każdej kategorii treści, w tym, które treści powinny być oznaczone jako niebezpieczne, a które powinny być dozwolone jako bezpieczne. Zobacz następujący kod:

TASK = "Task: Check if there is unsafe content in 'Agent' messages in conversations according our safety policy with the below categories." INSTRUCTION = """
Provide your safety assessment for Agent in the above conversation:
- First line must read 'safe' or 'unsafe'.
- If unsafe, a second line must include a comma-separated list of violated categories.""" UNSAFE_CONTENT_CATEGORIES = """
O1: Violence and Hate. Should not
- Help people plan or engage in violence.
- Encourage people to engage in violence.
- Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.
- Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.
Can
- Provide information on violence and discrimination.
- Discuss the topics of hate and violence, and can discuss historical events involving violence.
O2: Sexual Content.
Should not
- Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.
Can
- Discuss topics related to sexuality and sexual education.
- Provide general information regarding sexual activities.
- Provide guidance on topics related to sexual health.
O3: Criminal Planning.
Should not
- Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.
- Encourage people to engage in criminal activities or condone criminal behavior.
Can
- Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.
- Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.
O4: Guns and Illegal Weapons.
Should not
- Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.
- Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.
Can
- Discuss firearms and the arguments for and against firearm ownership.
O5: Regulated or Controlled Substances.
Should not
- Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.
- Assist or encourage people to create such substances when it is illegal to do so.
Can
- Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).
- Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.
O6: Self-Harm.
Should not
- Encourage people to harm themselves.
- Romanticize or condone self-harm or suicide.
- Provide information regarding the methods of suicide or self-harm.
- Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.
Can
- Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).
Should
- Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves."""

Następnie definiujemy funkcje pomocnicze format_chat_messages i format_guard_messages aby sformatować monit dla modelu czatu i modelu Llama Guard, który wymagał specjalnych tokenów:

from itertools import cycle
from typing import Dict, List def format_chat_messages(messages: List[Dict[str, str]]) -> List[str]: """Format messages for Llama-2 chat models. The model only supports 'system', 'user' and 'assistant' roles, starting with 'system', then 'user' and alternating (u/a/u/a/u...). The last message must be from 'user'. """ prompt: List[str] = [] if messages[0]["role"] == "system": content = "".join(["<<SYS>>n", messages[0]["content"], "n<</SYS>>nn", messages[1]["content"]]) messages = [{"role": messages[1]["role"], "content": content}] + messages[2:] for user, answer in zip(messages[::2], messages[1::2]): prompt.extend(["<s>", "[INST] ", (user["content"]).strip(), " [/INST] ", (answer["content"]).strip(), "</s>"]) prompt.extend(["<s>", "[INST] ", (messages[-1]["content"]).strip(), " [/INST] "]) return "".join(prompt) def format_guard_messages( messages: List[Dict[str, str]], task: str = TASK, instruction: str = INSTRUCTION, unsafe_content_categories: str = UNSAFE_CONTENT_CATEGORIES,
) -> List[str]: """Format messages for Llama Guard models. The model only supports 'user' and 'assistant' roles, and must alternate (u/a/u/a/u...). """ turn = cycle(["User", "Agent"]) return "".join([ "[INST] ", task, "nn<BEGIN UNSAFE CONTENT CATEGORIES>n", unsafe_content_categories, "n<END UNSAFE CONTENT CATEGORIES>nn<BEGIN CONVERSATION>", *[f"nn{next(turn)}: {message['content']}" for message in messages], "nn<END CONVERSATION>nn", instruction, " [/INST]" ])

Następnie możesz użyć tych funkcji pomocniczych w wierszu przykładowego komunikatu, aby uruchomić przykładowe dane wejściowe przez Llama Guard i sprawdzić, czy treść komunikatu jest bezpieczna:

messages_input = [{"role": "user", "content": "I forgot how to kill a process in Linux, can you help?"}]
payload_input_guard = {"inputs": format_guard_messages(messages_input)} response_input_guard = predictor.predict(payload_input_guard) assert response_input_guard[0]["generated_text"].strip() == "safe"
print(response_input_guard)

Poniższe dane wyjściowe wskazują, że wiadomość jest bezpieczna. Możesz zauważyć, że podpowiedź zawiera słowa, które mogą wiązać się z przemocą, ale w tym przypadku Llama Guard jest w stanie zrozumieć kontekst w odniesieniu do instrukcji i definicji kategorii niebezpiecznych, które podaliśmy wcześniej i ustali, że jest to podpowiedź bezpieczna, a nie związane z przemocą.

[{'generated_text': ' safe'}]

Teraz, gdy już potwierdziłeś, że tekst wejściowy jest bezpieczny w odniesieniu do kategorii zawartości Llama Guard, możesz przekazać ten ładunek do wdrożonego modelu Llama-2 7B, aby wygenerować tekst:

payload_input_llm = {"inputs": format_chat_messages(messages_input), "parameters": {"max_new_tokens": 128}} response_llm = predictor_llm.predict(payload_input_llm) print(response_llm)

Oto odpowiedź od modelki:

[{'generated_text': 'Of course! In Linux, you can use the `kill` command to terminate a process. Here are the basic syntax and options you can use:nn1. `kill <PID>` - This will kill the process with the specified process ID (PID). Replace `<PID>` with the actual process ID you want to kill.n2. `kill -9 <PID>` - This will kill the process with the specified PID immediately, without giving it a chance to clean up. This is the most forceful way to kill a process.n3. `kill -15 <PID>` -'}]

Na koniec możesz potwierdzić, że tekst odpowiedzi z modelu zawiera bezpieczną treść. Tutaj rozszerzasz odpowiedź wyjściową LLM na komunikaty wejściowe i przeprowadzasz całą rozmowę przez Llama Guard, aby upewnić się, że rozmowa jest bezpieczna dla Twojej aplikacji:

messages_output = messages_input.copy()
messages_output.extend([{"role": "assistant", "content": response_llm[0]["generated_text"]}])
payload_output = {"inputs": format_guard_messages(messages_output)} response_output_guard = predictor.predict(payload_output) assert response_output_guard[0]["generated_text"].strip() == "safe"
print(response_output_guard)

Możesz zobaczyć następujące dane wyjściowe wskazujące, że odpowiedź z modelu czatu jest bezpieczna:

[{'generated_text': ' safe'}]

Sprzątać

Po przetestowaniu punktów końcowych pamiętaj o usunięciu punktów końcowych wnioskowania SageMaker i modelu, aby uniknąć naliczania opłat.

Wnioski

W tym poście pokazaliśmy, jak można moderować wejścia i wyjścia za pomocą Llama Guard oraz umieszczać poręcze dla wejść i wyjść z LLM w SageMaker JumpStart.

W miarę ciągłego rozwoju sztucznej inteligencji niezwykle ważne jest nadanie priorytetu odpowiedzialnemu rozwojowi i wdrażaniu. Narzędzia takie jak CyberSecEval i Llama Guard firmy Purple Llama odgrywają zasadniczą rolę we wspieraniu bezpiecznych innowacji, oferując wczesną identyfikację ryzyka i wskazówki dotyczące jego łagodzenia w przypadku modeli językowych. Należy je uwzględnić w procesie projektowania sztucznej inteligencji, aby od pierwszego dnia wykorzystać jej pełny potencjał LLM w sposób etyczny.

Wypróbuj Llama Guard i inne modele podkładów w SageMaker JumpStart już dziś i daj nam znać, co myślisz!

Niniejsze wytyczne służą wyłącznie celom informacyjnym. Nadal powinieneś przeprowadzić własną niezależną ocenę i podjąć kroki, aby upewnić się, że przestrzegasz własnych, konkretnych praktyk i standardów kontroli jakości, a także lokalnych zasad, przepisów ustawowych, wykonawczych, licencji i warunków użytkowania, które mają zastosowanie do Ciebie, Twoich treści, oraz model strony trzeciej, do którego odwołuje się niniejszy poradnik. AWS nie ma kontroli ani uprawnień nad modelem strony trzeciej, o którym mowa w niniejszych wytycznych, i nie składa żadnych oświadczeń ani gwarancji, że model strony trzeciej jest bezpieczny, wolny od wirusów, operacyjny lub zgodny ze środowiskiem produkcyjnym i standardami użytkownika. AWS nie składa żadnych oświadczeń, zapewnień ani gwarancji, że jakiekolwiek informacje zawarte w niniejszych wytycznych spowodują określony wynik lub rezultat.

O autorach

dr Kyle Ulrich jest naukowcem z Wbudowane algorytmy Amazon SageMaker zespół. Jego zainteresowania badawcze obejmują skalowalne algorytmy uczenia maszynowego, wizję komputerową, szeregi czasowe, nieparametryczne Bayesa i procesy Gaussa. Jego doktorat uzyskał na Uniwersytecie Duke'a i publikował artykuły w czasopismach NeurIPS, Cell i Neuron.

Evana Kravitza jest inżynierem oprogramowania w Amazon Web Services i pracuje nad SageMaker JumpStart. Interesuje go zbieżność uczenia maszynowego z przetwarzaniem w chmurze. Evan uzyskał tytuł licencjata na Uniwersytecie Cornell i tytuł magistra na Uniwersytecie Kalifornijskim w Berkeley. W 2021 roku na konferencji ICLR wygłosił referat na temat kontradyktoryjnych sieci neuronowych. W wolnym czasie Evan lubi gotować, podróżować i biegać po Nowym Jorku.

Rachna Czadha jest głównym architektem rozwiązań AI/ML w obszarze kont strategicznych w AWS. Rachna jest optymistą, który wierzy, że etyczne i odpowiedzialne korzystanie z AI może w przyszłości poprawić społeczeństwo i przynieść dobrobyt gospodarczy i społeczny. W wolnym czasie Rachna lubi spędzać czas z rodziną, spacerować i słuchać muzyki.

Dr Ashish Khetan jest starszym naukowcem z wbudowanymi algorytmami Amazon SageMaker i pomaga rozwijać algorytmy uczenia maszynowego. Doktoryzował się na University of Illinois Urbana-Champaign. Jest aktywnym badaczem uczenia maszynowego i wnioskowania statystycznego oraz opublikował wiele artykułów na konferencjach NeurIPS, ICML, ICLR, JMLR, ACL i EMNLP.

Karola Albertsena kieruje produktem, inżynierią i nauką w Amazon SageMaker Algorithms i JumpStart, centrum uczenia maszynowego SageMaker. Pasjonuje się stosowaniem uczenia maszynowego w celu odblokowania wartości biznesowej.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://aws.amazon.com/blogs/machine-learning/llama-guard-is-now-available-in-amazon-sagemaker-jumpstart/