Đạt được Chứng nhận AWS có thể giúp bạn thúc đẩy sự nghiệp của mình, cho dù bạn đang muốn tìm một vai trò mới, thể hiện kỹ năng của mình để đảm nhận một dự án mới hay trở thành chuyên gia tiềm năng của nhóm. Và bởi vì các kỳ thi Chứng chỉ AWS được tạo bởi các chuyên gia trong lĩnh vực kỹ thuật hoặc vai trò có liên quan, nên việc chuẩn bị cho một trong những kỳ thi này giúp bạn xây dựng các kỹ năng cần thiết được xác định bởi những người hành nghề lành nghề trong lĩnh vực này.
Việc đọc trang Câu hỏi thường gặp về các dịch vụ AWS liên quan đến kỳ thi chứng nhận của bạn là rất quan trọng để hiểu sâu hơn về dịch vụ. Tuy nhiên, điều này có thể mất khá nhiều thời gian. Đọc Câu hỏi thường gặp của ngay cả một dịch vụ có thể mất nửa ngày để đọc và hiểu. Ví dụ, các Amazon SageMaker Câu hỏi thường gặp chứa khoảng 33 trang (được in) nội dung chỉ có trên SageMaker.
Sẽ không phải là một trải nghiệm học tập thú vị và dễ dàng hơn nếu bạn có thể sử dụng một hệ thống để tự kiểm tra trên các trang Câu hỏi thường gặp về dịch vụ AWS sao? Trên thực tế, bạn có thể phát triển một hệ thống như vậy bằng cách sử dụng các mô hình ngôn ngữ hiện đại và một vài dòng Python.
Trong bài đăng này, chúng tôi trình bày hướng dẫn toàn diện về cách triển khai giải pháp bài kiểm tra trắc nghiệm cho các trang Câu hỏi thường gặp của bất kỳ dịch vụ AWS nào, dựa trên mô hình nền tảng AI21 Jurassic-2 Jumbo Instruct trên Khởi động Amazon SageMaker.
Các mô hình ngôn ngữ lớn
Trong những năm gần đây, các mô hình ngôn ngữ đã chứng kiến sự gia tăng lớn về quy mô và mức độ phổ biến. Năm 2018, BERT-lớn ra mắt lần đầu tiên với 340 triệu thông số và kiến trúc máy biến áp sáng tạo, thiết lập tiêu chuẩn cho hiệu suất đối với các tác vụ NLP. Trong một vài năm ngắn ngủi, hiện đại nhất về kích thước mô hình đã tăng hơn 500 lần; GPT-3 và Bloom 176 B của OpenAI, cả hai đều có 175 tỷ tham số và AI21 Jurassic-2 Jumbo Instruct với 178 tỷ tham số chỉ là ba ví dụ về các mô hình ngôn ngữ lớn (LLM) nâng cao tiêu chuẩn về độ chính xác của xử lý ngôn ngữ tự nhiên (NLP).
Mô hình nền tảng SageMaker
SageMaker cung cấp một loạt các mô hình từ các trung tâm mô hình phổ biến bao gồm Hugging Face, PyTorch Hub và TensorFlow Hub cũng như các mô hình sở hữu từ AI21, Cohere và LightOn mà bạn có thể truy cập trong quy trình phát triển máy học (ML) của mình trong SageMaker. Những tiến bộ gần đây trong ML đã tạo ra một loại mô hình mới được gọi là mô hình nền tảng, có hàng tỷ tham số và được đào tạo trên lượng dữ liệu khổng lồ. Những mô hình nền tảng đó có thể được điều chỉnh cho nhiều trường hợp sử dụng, chẳng hạn như tóm tắt văn bản, tạo tác phẩm nghệ thuật kỹ thuật số và dịch ngôn ngữ. Vì việc đào tạo các mô hình này có thể tốn kém nên khách hàng muốn sử dụng các mô hình nền tảng được đào tạo trước hiện có và tinh chỉnh chúng khi cần, thay vì tự đào tạo các mô hình này. SageMaker cung cấp một danh sách các mô hình được sắp xếp mà bạn có thể chọn trên bảng điều khiển SageMaker.
Với JumpStart, bạn có thể tìm thấy các mô hình nền tảng từ các nhà cung cấp khác nhau, cho phép bạn bắt đầu nhanh chóng với các mô hình nền tảng. Bạn có thể xem lại các đặc điểm của mô hình và điều khoản sử dụng, đồng thời dùng thử các mô hình này bằng cách sử dụng tiện ích giao diện người dùng thử nghiệm. Khi bạn đã sẵn sàng sử dụng mô hình nền tảng ở quy mô lớn, bạn có thể thực hiện dễ dàng mà không cần rời khỏi SageMaker bằng cách sử dụng sổ ghi chép dựng sẵn từ các nhà cung cấp mô hình. Dữ liệu của bạn, dù được dùng để đánh giá hay sử dụng mô hình trên quy mô lớn, sẽ không bao giờ được chia sẻ với bên thứ ba vì các mô hình được lưu trữ và triển khai trên AWS.
Hướng dẫn Jumbo AI21 Jurassic-2
Jurassic-2 Jumbo Instruct là một LLM của AI21 Labs có thể được áp dụng cho bất kỳ nhiệm vụ hiểu hoặc tạo ngôn ngữ nào. Nó được tối ưu hóa để tuân theo ngữ cảnh và hướng dẫn ngôn ngữ tự nhiên, vì vậy không cần cung cấp cho nó bất kỳ ví dụ nào. Điểm cuối được tải sẵn mô hình và sẵn sàng phục vụ các truy vấn thông qua API và SDK Python dễ sử dụng, vì vậy bạn có thể bắt đầu chạy. Jurassic-2 Jumbo Instruct có hiệu suất cao nhất tại HELM, đặc biệt là trong các nhiệm vụ liên quan đến đọc và viết.
Tổng quan về giải pháp
Trong các phần sau, chúng ta sẽ thực hiện các bước để kiểm tra mô hình hướng dẫn Jumbo Jurassic-2 trong SageMaker:
- Chọn mô hình hướng dẫn Jumbo Jurassic-2 trên bảng điều khiển SageMaker.
- Đánh giá mô hình sử dụng sân chơi.
- Sử dụng sổ ghi chép được liên kết với mô hình nền tảng để triển khai nó trong môi trường của bạn.
Truy cập Hướng dẫn Jumbo Jurassic-2 thông qua bảng điều khiển SageMaker
Bước đầu tiên là đăng nhập vào bảng điều khiển SageMaker. Dưới Khởi động trong ngăn điều hướng, chọn Mô hình nền tảng để yêu cầu quyền truy cập vào danh sách mô hình.
Sau khi tài khoản của bạn được phép liệt kê, bạn có thể xem danh sách các mô hình trên trang này và tìm kiếm mô hình Hướng dẫn Jumbo Jurassic-2.
Đánh giá mô hình Jumbo Instruct Jurassic-2 tại sân chơi mô hình
Trên danh sách Hướng dẫn Jumbo Jumbo AI21, chọn Xem mô hình. Bạn sẽ thấy mô tả về mô hình và các tác vụ mà bạn có thể thực hiện. Đọc qua EULA cho mô hình trước khi tiếp tục.
Trước tiên, hãy thử mô hình để tạo thử nghiệm dựa trên trang Câu hỏi thường gặp về SageMaker. Điều hướng đến Sân chơi tab.
trên Sân chơi tab, bạn có thể cung cấp lời nhắc mẫu cho mô hình Hướng dẫn Jumbo Jurassic-2 và xem đầu ra.
Lưu ý rằng bạn có thể sử dụng tối đa 500 mã thông báo. Chúng tôi đặt Độ dài tối đa thành 500, đây là số lượng mã thông báo tối đa để tạo. Mô hình này có cửa sổ ngữ cảnh 8,192 mã thông báo (thời lượng của lời nhắc cộng với thời lượng hoàn thành tối đa là 8,192 mã thông báo).
Để xem lời nhắc dễ dàng hơn, bạn có thể phóng to nhanh chóng cái hộp.
Vì chúng tôi có thể sử dụng tối đa 500 mã thông báo nên chúng tôi lấy một phần nhỏ Trang Câu hỏi thường gặp về Amazon SageMaker, Các ML mã thấp phần, cho lời nhắc kiểm tra của chúng tôi.
Chúng tôi sử dụng dấu nhắc sau:
Kỹ thuật nhanh chóng là một quá trình lặp đi lặp lại. Bạn nên nói rõ ràng, cụ thể và cho người mẫu thời gian suy nghĩ.
Ở đây, chúng tôi đã chỉ định ngữ cảnh với ## là chuỗi dừng, báo hiệu mô hình ngừng tạo sau khi ký tự hoặc chuỗi này được tạo. Nó hữu ích khi sử dụng lời nhắc vài lần.
Tiếp theo, chúng tôi đưa ra lời nhắc rất rõ ràng và cụ thể, yêu cầu một bài kiểm tra trắc nghiệm, bao gồm bốn câu hỏi với bốn lựa chọn. Chúng tôi yêu cầu người mẫu đưa vào câu trả lời đúng cho mỗi câu hỏi bằng cách sử dụng chuỗi bắt đầu 'Correct Answer:'
vì vậy chúng ta có thể phân tích nó sau bằng Python:
Một lời nhắc được thiết kế tốt có thể làm cho mô hình trở nên sáng tạo và khái quát hơn để nó có thể dễ dàng thích ứng với các nhiệm vụ mới. Lời nhắc cũng có thể giúp kết hợp kiến thức miền vào các nhiệm vụ cụ thể và cải thiện khả năng diễn giải. Kỹ thuật nhanh chóng có thể cải thiện đáng kể hiệu suất của các mô hình học tập không bắn và vài lần. Tạo lời nhắc chất lượng cao đòi hỏi phải xem xét cẩn thận nhiệm vụ hiện tại, cũng như hiểu biết sâu sắc về các điểm mạnh và hạn chế của mô hình.
Trong phạm vi bài viết này, chúng tôi không đề cập sâu hơn về lĩnh vực này.
Sao chép lời nhắc và nhập nó vào nhanh chóng hộp, sau đó chọn Tạo văn bản.
Điều này sẽ gửi lời nhắc đến mô hình Hướng dẫn Jumbo Jurassic-2 để suy luận. Lưu ý rằng thử nghiệm trong sân chơi là miễn phí.
Ngoài ra, hãy nhớ rằng mặc dù bản chất tiên tiến của LLM, chúng vẫn dễ bị sai lệch, sai sót và ảo giác.
Sau khi đọc kỹ và cẩn thận đầu ra của mô hình, chúng ta có thể thấy rằng mô hình đã tạo ra một bài kiểm tra khá hay!
Sau khi bạn đã chơi với mô hình, đã đến lúc sử dụng sổ ghi chép và triển khai nó như một điểm cuối trong môi trường của bạn. Chúng tôi sử dụng một hàm Python nhỏ để phân tích cú pháp đầu ra và mô phỏng thử nghiệm tương tác.
Triển khai mô hình nền tảng Jumbo Instruct Jurassic-2 từ máy tính xách tay
Bạn có thể sử dụng như sau mẫu máy tính xách tay để triển khai Hướng dẫn Jumbo Jurassic-2 bằng SageMaker. Lưu ý rằng ví dụ này sử dụng phiên bản ml.p4d.24xlarge. Nếu giới hạn mặc định cho tài khoản AWS của bạn là 0, bạn cần yêu cầu tăng giới hạn cho phiên bản GPU này.
Hãy tạo điểm cuối bằng suy luận SageMaker. Đầu tiên, chúng tôi đặt các biến cần thiết, sau đó chúng tôi triển khai mô hình từ gói mô hình:
Sau khi điểm cuối được triển khai, bạn có thể chạy các truy vấn suy luận đối với mô hình.
Sau khi mô hình được triển khai, bạn có thể tương tác với điểm cuối đã triển khai bằng đoạn mã sau:
Với mô hình nền tảng Jumbo Instruct Jurassic-2 được triển khai trên điểm cuối SageMaker phiên bản ml.p4d.24xlarge, bạn có thể sử dụng lời nhắc với 4,096 mã thông báo. Bạn có thể thực hiện cùng một lời nhắc mà chúng tôi đã sử dụng trong sân chơi và thêm nhiều câu hỏi khác. Trong ví dụ này, chúng tôi đã thêm toàn bộ Câu hỏi thường gặp ML mã thấp phần dưới dạng ngữ cảnh vào dấu nhắc.
Chúng ta có thể thấy đầu ra của mô hình, tạo ra một bài kiểm tra trắc nghiệm với bốn câu hỏi và bốn lựa chọn cho mỗi câu hỏi.
Giờ đây, bạn có thể phát triển một hàm Python để phân tích cú pháp đầu ra và tạo một bài kiểm tra trắc nghiệm tương tác.
Khá đơn giản để phát triển một chức năng như vậy với một vài dòng mã. Bạn có thể phân tích cú pháp câu trả lời một cách dễ dàng vì mô hình đã tạo một dòng có “Câu trả lời đúng: ” cho mỗi câu hỏi, chính xác như chúng tôi đã yêu cầu trong lời nhắc. Chúng tôi không cung cấp mã Python để tạo bài kiểm tra trong phạm vi của bài đăng này.
Chạy bài kiểm tra trong sổ ghi chép
Sử dụng hàm Python mà chúng tôi đã tạo trước đó và kết quả đầu ra từ mô hình nền tảng Hướng dẫn Jumbo Jurassic-2, chúng tôi chạy bài kiểm tra tương tác trong sổ ghi chép.
Bạn có thể thấy tôi đã trả lời đúng ba trong số bốn câu hỏi và đạt điểm 75%. Có lẽ tôi cần đọc Câu hỏi thường gặp về SageMaker thêm vài lần nữa!
Làm sạch
Sau khi bạn đã dùng thử điểm cuối, hãy đảm bảo xóa điểm cuối suy luận SageMaker và mô hình để tránh mọi khoản phí:
Kết luận
Trong bài đăng này, chúng tôi đã chỉ cho bạn cách bạn có thể kiểm tra và sử dụng mô hình Hướng dẫn Jumbo Jurassic-21 của AI2 bằng SageMaker để xây dựng hệ thống tạo bài kiểm tra tự động. Điều này đã đạt được bằng cách sử dụng lời nhắc khá đơn giản với văn bản của trang Câu hỏi thường gặp về SageMaker có sẵn công khai được nhúng và một vài dòng mã Python.
Tương tự như ví dụ này được đề cập trong bài đăng, bạn có thể tùy chỉnh mô hình nền tảng cho doanh nghiệp của mình chỉ bằng một vài ví dụ được gắn nhãn. Vì tất cả dữ liệu được mã hóa và không rời khỏi tài khoản AWS của bạn nên bạn có thể tin tưởng rằng dữ liệu của mình sẽ được giữ riêng tư và bảo mật.
Yêu cầu quyền truy cập vào thử mô hình nền tảng trong SageMaker ngay hôm nay và cho chúng tôi biết phản hồi của bạn!
Lưu ý
Eitan Sela là một Kiến trúc sư Giải pháp Chuyên gia về Học máy với Dịch vụ Web của Amazon. Anh làm việc với các khách hàng của AWS để cung cấp hướng dẫn và hỗ trợ kỹ thuật, giúp họ xây dựng và vận hành các giải pháp học máy trên AWS. Khi rảnh rỗi, Eitan thích chạy bộ và đọc các bài báo mới nhất về máy học.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
- Mua và bán cổ phần trong các công ty PRE-IPO với PREIPO®. Truy cập Tại đây.
- nguồn: https://aws.amazon.com/blogs/machine-learning/accelerate-your-learning-towards-aws-certification-exams-with-automated-quiz-generation-using-amazon-sagemaker-foundations-models/
- : có
- :là
- :không phải
- 1
- 100
- 14
- 15%
- 17
- 2018
- 23
- 500
- 7
- 8
- 9
- a
- Giới thiệu
- đẩy nhanh tiến độ
- truy cập
- Tài khoản
- chính xác
- đạt được
- có được
- thực sự
- thích ứng
- thích nghi
- thêm vào
- thêm
- tiến bộ
- Sau
- chống lại
- thuật toán
- Tất cả
- cho phép
- Ngoài ra
- đàn bà gan dạ
- Amazon SageMaker
- Amazon SageMaker Tự động lái
- Khởi động Amazon SageMaker
- Amazon Web Services
- số lượng
- an
- và
- trả lời
- bất kì
- api
- áp dụng
- kiến trúc
- LÀ
- KHU VỰC
- Nghệ thuật
- bài viết
- AS
- Hỗ trợ
- liên kết
- At
- Tự động
- lái tự động
- có sẵn
- AWS
- Chứng nhận AWS
- thanh
- cơ sở
- dựa
- BE
- bởi vì
- trở nên
- trước
- điểm chuẩn
- thành kiến
- Tỷ
- tỷ
- Hoa
- cả hai
- Hộp
- xây dựng
- được xây dựng trong
- kinh doanh
- by
- CAN
- Tuyển Dụng
- cẩn thận
- cẩn thận
- trường hợp
- trường hợp
- Chứng nhận
- CHỨNG NHẬN
- tính cách
- đặc điểm
- tải
- sự lựa chọn
- Chọn
- tốt nghiệp lớp XNUMX
- phân loại
- trong sáng
- mã
- Đến
- đến
- hoàn thành
- toàn diện
- xem xét
- Bao gồm
- An ủi
- chứa
- nội dung
- bối cảnh
- sửa chữa
- đúng
- có thể
- che
- tạo
- tạo ra
- Tạo
- Sáng tạo
- lưu trữ
- khách hàng
- tùy biến
- tùy chỉnh
- tiên tiến
- dữ liệu
- ngày
- sâu
- sâu sắc hơn
- Mặc định
- Nhu cầu
- Dự báo nhu cầu
- triển khai
- triển khai
- triển khai
- Mô tả
- Mặc dù
- Phát hiện
- phát triển
- Phát triển
- khác nhau
- kỹ thuật số
- Nghệ thuật kỹ thuật số
- do
- Không
- miền
- dont
- mỗi
- Sớm hơn
- dễ dàng hơn
- dễ dàng
- dễ sử dụng
- nhúng
- cho phép
- mã hóa
- Điểm cuối
- Kỹ Sư
- phóng to
- đăng ký hạng mục thi
- Toàn bộ
- Môi trường
- lỗi
- Ether (ETH)
- đánh giá
- Ngay cả
- chính xác
- kỳ thi
- ví dụ
- ví dụ
- hiện tại
- đắt tiền
- kinh nghiệm
- chuyên gia
- các chuyên gia
- Đối mặt
- Câu Hỏi Thường Gặp
- vài
- lĩnh vực
- Tìm kiếm
- Tên
- phù hợp với
- theo
- tiếp theo
- Trong
- Nền tảng
- Foundations
- 4
- gian lận
- phát hiện gian lận
- Miễn phí
- từ
- đầy đủ
- vui vẻ
- chức năng
- xa hơn
- tạo ra
- tạo ra
- tạo ra
- thế hệ
- được
- nhận được
- Cho
- được
- Go
- tốt
- GPU
- cấp
- rất nhiều
- Mặt đất
- hướng dẫn
- hướng dẫn
- Một nửa
- tay
- Có
- he
- giúp đỡ
- giúp đỡ
- giúp
- chất lượng cao
- của mình
- Đánh
- tổ chức
- Độ đáng tin của
- Tuy nhiên
- HTML
- HTTPS
- Hub
- lớn
- i
- xác định
- if
- hình ảnh
- Phân loại hình ảnh
- quan trọng
- nâng cao
- in
- bao gồm
- bao gồm
- Bao gồm
- kết hợp
- thông tin
- sáng tạo
- đầu vào
- ví dụ
- hướng dẫn
- tương tác
- tương tác
- trong
- IT
- ITS
- Việc làm
- chỉ
- Giữ
- Biết
- kiến thức
- nổi tiếng
- Phòng thí nghiệm
- Ngôn ngữ
- lớn
- một lát sau
- mới nhất
- phóng
- người học
- học tập
- Rời bỏ
- để lại
- Chiều dài
- LIMIT
- hạn chế
- Dòng
- dòng
- Danh sách
- Liệt kê
- niêm yết
- đăng nhập
- tìm kiếm
- máy
- học máy
- thực hiện
- bảo trì
- làm cho
- thủ công
- nhiều
- lớn
- tối đa
- tối đa
- đề cập
- triệu
- tâm
- ML
- kiểu mẫu
- mô hình
- sửa đổi
- chi tiết
- hầu hết
- nhiều
- my
- Tự nhiên
- Ngôn ngữ tự nhiên
- Xử lý ngôn ngữ tự nhiên
- Thiên nhiên
- Điều hướng
- THÔNG TIN
- cần thiết
- Cần
- cần thiết
- không bao giờ
- Mới
- nlp
- Không
- ghi
- máy tính xách tay
- máy tính xách tay
- con số
- vật
- Phát hiện đối tượng
- of
- cung cấp
- on
- ONE
- những
- đang diễn ra
- mã nguồn mở
- hoạt động
- tối ưu hóa
- Các lựa chọn
- or
- gọi món
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- đầu ra
- kết thúc
- gói
- trang
- cửa sổ
- thông số
- đặc biệt
- các bên tham gia
- thực hiện
- hiệu suất
- biểu diễn
- có lẽ
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- chơi
- thêm
- Phổ biến
- phổ biến
- Bài đăng
- Predictor
- chuẩn bị
- trình bày
- ngăn chặn
- Xem trước
- riêng
- quá trình
- xử lý
- Sản lượng
- dự án
- đẩy tới
- độc quyền
- cho
- nhà cung cấp
- cung cấp
- công khai
- Python
- ngọn đuốc
- truy vấn
- câu hỏi
- Câu hỏi
- Mau
- Bài kiểm tra
- nâng cao
- phạm vi
- hơn
- Đọc
- Reading
- sẵn sàng
- gần đây
- liên quan
- có liên quan
- vẫn
- tẩy
- yêu cầu
- yêu cầu
- cần phải
- đòi hỏi
- xem xét
- Tăng lên
- Vai trò
- chạy
- chạy
- nhà làm hiền triết
- Suy luận của SageMaker
- tương tự
- Quy mô
- phạm vi
- kịch bản
- sdk
- Tìm kiếm
- Phần
- phần
- xem
- đã xem
- gửi
- kết án
- phục vụ
- dịch vụ
- DỊCH VỤ
- định
- thiết lập
- chia sẻ
- ngắn
- nên
- giới thiệu
- cho thấy
- tín hiệu
- Đơn giản
- Kích thước máy
- lành nghề
- kỹ năng
- nhỏ
- So
- giải pháp
- Giải pháp
- một số
- chuyên gia
- riêng
- quy định
- bắt đầu
- Bắt đầu
- nhà nước-of-the-art
- Bước
- Các bước
- Vẫn còn
- Dừng
- dừng lại
- đơn giản
- thế mạnh
- Chuỗi
- như vậy
- Hỗ trợ
- Hỗ trợ
- chắc chắn
- dâng trào
- hệ thống
- Hãy
- Nhiệm vụ
- nhiệm vụ
- Kỹ thuật
- tensorflow
- về
- thử nghiệm
- Phân loại văn bản
- hơn
- việc này
- Sản phẩm
- Them
- tự
- sau đó
- Đó
- Kia là
- họ
- Hãy suy nghĩ
- Thứ ba
- các bên thứ ba
- điều này
- triệt để
- những
- số ba
- Thông qua
- thời gian
- thời gian
- đến
- bây giờ
- Tokens
- hàng đầu
- chủ đề
- đối với
- Train
- đào tạo
- Hội thảo
- biến áp
- Dịch
- thử nghiệm
- thử nghiệm
- cố gắng
- NIỀM TIN
- thử
- ui
- Dưới
- hiểu
- sự hiểu biết
- Cập nhật
- us
- Sử dụng
- sử dụng
- ca sử dụng
- đã sử dụng
- sử dụng
- sử dụng
- biến
- rất
- thông qua
- Xem
- tầm nhìn
- Truy cập
- muốn
- là
- we
- web
- các dịch vụ web
- TỐT
- Điều gì
- khi nào
- liệu
- cái nào
- rộng
- Phạm vi rộng
- sẽ
- với
- ở trong
- không có
- quy trình làm việc
- công trinh
- viết
- XGBoost
- năm
- Vâng
- bạn
- trên màn hình
- mình
- zephyrnet