Tóm tắt về AI OpenAI đang triển khai các bản nâng cấp cho GPT-4, cùng với những tính năng khác, sẽ cho phép mô hình AI trả lời các truy vấn của người dùng về hình ảnh đã gửi – và siêu phòng thí nghiệm ít nhất đã ghi lại một số rủi ro an toàn liên quan đến khả năng đó.
Mục đích của chức năng mới này rất đơn giản: người dùng có thể tải lên tệp hình ảnh và thông qua ChatGPT, hãy hỏi GPT-4 đã nâng cấp các câu hỏi về hình ảnh này và nó sẽ cố gắng trả lời. Một bài viết của OpenAI mô tả bản cập nhật GPT-4V này (trong đó chữ V là viết tắt của tầm nhìn) tiết lộ rằng biz đang nỗ lực bổ sung các biện pháp bảo vệ để hạn chế khả năng mạng thần kinh lộ dữ liệu riêng tư hoặc tạo ra kết quả đầu ra không phù hợp khi xử lý hình ảnh được gửi.
Ví dụ: OpenAI đã cố gắng chặn khả năng nhận dạng khuôn mặt hoặc vị trí chính xác của mô hình khỏi các bức ảnh được tải lên cũng như không cho phép nhận xét về ngoại hình của mọi người trong ảnh chụp nhanh được gửi, chúng tôi được biết. Các biện pháp bảo vệ bổ sung bao gồm ngăn LLM tự động giải CAPTCHA hoặc mô tả hành vi bất hợp pháp và cố gắng giảm xu hướng tạo ra thông tin sai lệch.
“Trong một số trường hợp, nó cũng có thể không xác định được thông tin từ hình ảnh. Nó có thể bỏ sót văn bản hoặc ký tự, bỏ qua các ký hiệu toán học và không thể nhận dạng các vị trí không gian cũng như ánh xạ màu sắc”, bộ trang phục cảnh báo trong bài viết của mình. giấy [PDF] mô tả GPT-4V.
Những hạn chế của mô hình có nghĩa là LLM không phù hợp để thực hiện một số nhiệm vụ, đặc biệt là những nhiệm vụ có rủi ro, chẳng hạn như xác định các loại thuốc bất hợp pháp hoặc nấm an toàn để ăn. OpenAI cũng cảnh báo rằng GPT-4V, như thường lệ đối với mẫu GPT-4, có khả năng tạo ra văn bản và hình ảnh có thể được sử dụng để truyền bá thông tin sai lệch hiệu quả trên quy mô lớn.
“Nghiên cứu trước đây đã chỉ ra rằng mọi người có nhiều khả năng tin vào những tuyên bố đúng và sai khi chúng được hiển thị cùng với một hình ảnh và có khả năng nhớ sai về các tiêu đề bịa đặt khi chúng đi kèm với một bức ảnh. Người ta cũng biết rằng mức độ tương tác với nội dung sẽ tăng lên khi nó được liên kết với một hình ảnh,” nó nói.
In điều khoản thực tế, GPT-4V và khả năng xử lý hình ảnh của nó có thể được sử dụng thông qua người dùng ChatGPT by Plus của OpenAI. Trong khi đó, OpenAI đang triển khai hỗ trợ nhập liệu bằng giọng nói cho iOS và Android cho người dùng ChatGPT Plus. “Bây giờ bạn có thể sử dụng giọng nói để tham gia vào cuộc trò chuyện qua lại với trợ lý của mình,” biz cho biết.
We trước đó đã viết về công ty khởi nghiệp AI bí ẩn Mistral của Pháp, và bây giờ giới kinh doanh đã có phát hành – thông qua liên kết Magnet – một mô hình ngôn ngữ lớn với 7.3 tỷ tham số được tuyên bố là vượt trội so với một số đối thủ. Nó cũng được cho là không được kiểm duyệt và không bị kiểm duyệt, vì vậy nó có thể được sử dụng để tạo ra kết quả có vấn đề cũng như những công việc thông thường mà các LLM này có thể thực hiện từ lời nhắc. Sử dụng… như bạn muốn, chúng tôi đoán vậy.
“Mẫu Mistral 7B Instruct là minh chứng nhanh chóng cho thấy mẫu cơ sở có thể dễ dàng tinh chỉnh để đạt được hiệu suất hấp dẫn,” biz cho biết. “Nó không có bất kỳ cơ chế kiểm duyệt nào. Chúng tôi mong muốn được tương tác với cộng đồng về những cách giúp mô hình tôn trọng các rào chắn, cho phép triển khai trong các môi trường yêu cầu đầu ra được kiểm duyệt.”
Meta mở rộng cửa sổ ngữ cảnh cho các mô hình Llama 2
Meta đã mở rộng độ dài văn bản mà người dùng có thể nhập vào lạc đà không bướu 2 mô hình lên tới 32,768 mã thông báo hoặc khối từ, lồng tiếng cho hệ thống kết quả là Llama 2 Long.
Việc tăng độ dài của lời nhắc đầu vào có nghĩa là các mô hình có thể xử lý nhiều dữ liệu hơn để thực hiện các tác vụ phức tạp hơn, chẳng hạn như tóm tắt các báo cáo lớn hoặc tìm kiếm thông tin trong các ngữ cảnh dài hơn.
Hãy lưu ý: Mô hình Claude của Anthropic có thể xử lý tới 100,000 mã thông báo, lượng văn bản tương đương 75,000 từ hoặc hàng trăm trang văn xuôi. Trong một bài báo [PDF] được đưa ra vào tuần trước, Meta tuyên bố mô hình ngôn ngữ lớn 70 tỷ tham số hàng đầu của mình là Llama 2 Long, có lẽ không có gì đáng ngạc nhiên, vượt trội so với mô hình GPT-3.5-turbo của OpenAI với cửa sổ ngữ cảnh là 16,000 mã thông báo.
Meta đã được một số người hoan nghênh vì phát hành mô hình Llama 2 của nó dành cho các nhà phát triển và học giả để mày mò. Nhưng không phải ai cũng hạnh phúc. Người biểu tình đứng bên ngoài văn phòng của tập đoàn lớn ở San Francisco hôm thứ Sáu để nâng cao nhận thức về sự nguy hiểm và rủi ro của việc thả trọng lượng của người mẫu, điều này cho phép những kẻ phạm tội sử dụng người mẫu mà không có bất kỳ biện pháp bảo vệ bổ sung nào.
“Chính sách phát hành của Meta dành cho các mô hình AI tiên phong về cơ bản là không an toàn… Trước khi nó phát hành các mô hình tiên tiến hơn nữa – có thể có nhiều khả năng nguy hiểm hơn trong tay những kẻ xấu – chúng tôi kêu gọi Meta thực hiện nghiêm túc việc phát hành có trách nhiệm và ngăn chặn sự phổ biến không thể đảo ngược,” cuộc phản đối nhóm nói trong một tuyên bố. Bản thân cuộc biểu tình đã được tổ chức trên Facebook của Meta và rất nhẹ tham dự.
Giám đốc điều hành Amazon xác nhận Alexa có thể sử dụng giọng nói của bạn để đào tạo AI
Giám đốc điều hành Amazon sắp rời đi Dave Limp nói với Bloomberg TV vào một ngày nọ rằng ông cho rằng trợ lý kỹ thuật số Alexa của gã khổng lồ web sẽ ngày càng trở nên một dịch vụ trả tiền để chơi. Điều quan trọng là ông cũng cho biết Alexa có thể sử dụng cuộc trò chuyện của một số người với hệ thống AI để đào tạo mô hình ngôn ngữ lớn của Amazon. Alexa LLM.
Người phát ngôn của Amazon cho biết: “Khách hàng vẫn có thể truy cập cùng một bộ công cụ mạnh mẽ và các biện pháp kiểm soát quyền riêng tư giúp họ kiểm soát trải nghiệm Alexa của mình ngày nay”. nói với Tin tức NBC. “Ví dụ: khách hàng sẽ luôn biết khi nào Alexa đang lắng nghe yêu cầu của họ vì đèn báo màu xanh lam sẽ phát sáng và âm thanh tùy chọn sẽ phát ra.”
Có lẽ đã đến lúc kiểm tra và thay đổi cài đặt của bạn.
Lab thiết lập sáng kiến nghiên cứu về bảo mật trong AI
Phòng thí nghiệm quốc gia Oak Ridge của Bộ Năng lượng Hoa Kỳ đã công bố ra mắt Trung tâm Nghiên cứu An ninh AI (CAISER) để thăm dò các cuộc tấn công bất lợi vào hệ thống máy học.
Các nhà nghiên cứu sẽ cộng tác với nhân viên từ các cơ quan khác, chẳng hạn như Ban Giám đốc Thông tin của Phòng thí nghiệm Nghiên cứu Không quân và Ban Giám đốc Khoa học và Công nghệ An ninh Nội địa, để đánh giá và nghiên cứu các lỗ hổng bảo mật trong AI.
CAISER chủ yếu quan tâm đến các cuộc tấn công đối nghịch và cách khai thác các mô hình. Những kẻ lừa đảo có thể đầu độc hệ thống bằng cách cung cấp dữ liệu rác có thể buộc các thuật toán đưa ra dự đoán không chính xác. Ví dụ: các cuộc tấn công tiêm nhắc có thể hướng một mô hình ngôn ngữ lớn tạo ra văn bản không phù hợp và gây khó chịu.
Bằng cách hiểu rõ các tác động và phân tích rủi ro, CAISER hy vọng có thể thông báo tốt hơn cho các cơ quan liên bang về phần mềm và khả năng hiện có khi họ xem xét áp dụng AI.
“Chúng ta đang ở ngã ba đường. Các công cụ AI và công nghệ dựa trên AI vốn dễ bị tổn thương và có thể bị khai thác, điều này có thể dẫn đến những hậu quả không lường trước được,” Edmon Begoli, người đứng đầu bộ phận Hệ thống thông minh nâng cao của ORNL và giám đốc sáng lập CAISER, cho biết. nói trong một tuyên bố.
“Chúng tôi đang xác định một lĩnh vực nghiên cứu bảo mật AI mới và cam kết nghiên cứu chuyên sâu cũng như phát triển các chiến lược và giải pháp giảm thiểu các rủi ro AI mới nổi.”
AWS ra mắt nền tảng AI Bedrock
Đơn vị đám mây AWS của Amazon trước đó công bố Nền tảng Bedrock của nó, nơi lưu trữ các mô hình nền tảng thông qua API để các doanh nghiệp đào tạo và chạy trên tài nguyên phần cứng của gã khổng lồ đám mây, hiện đã có sẵn rộng rãi.
Các nhà phát triển hiện có thể truy cập vào một số mô hình từ Llama 2 của Meta đến Titan Embeddings của Amazon, giúp dịch văn bản thành ánh xạ vector để thuật toán AI xử lý; Amazon Titan Express và Amazon Titan Lite tạo văn bản; và Amazon CodeWhisperer. AWS cũng lưu trữ các mô hình do các công ty khác xây dựng, chẳng hạn như AI21 Labs, Anthropic, Cohere và Stability AI.
“Với những cải tiến mới, mạnh mẽ, AWS đang mang lại sự bảo mật, lựa chọn và hiệu suất cao hơn cho khách hàng, đồng thời giúp họ điều chỉnh chặt chẽ chiến lược dữ liệu trong toàn tổ chức của mình để họ có thể tận dụng tối đa tiềm năng biến đổi của AI tổng hợp,” cho biết Swami Sivasubramanian, phó chủ tịch dữ liệu và AI tại AWS.
AWS cho biết các doanh nghiệp thuộc nhiều ngành khác nhau đang sử dụng các dịch vụ AI tổng hợp của Bedrock, bao gồm thương hiệu quần áo thể thao Adidas, nhà sản xuất ô tô BMW Group, LexisNexis Legal & Professional và tổ chức giải đấu golf phi lợi nhuận PGA Tour của Hoa Kỳ. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2023/10/02/ai_in_brief/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 000
- 100
- 16
- 32
- 7
- 75
- a
- có khả năng
- Giới thiệu
- học giả
- truy cập
- đi cùng
- Đạt được
- ngang qua
- diễn viên
- thêm
- thêm vào
- Adidas
- Nhận nuôi
- tiên tiến
- đối thủ
- chống lại
- cơ quan
- AI
- Mô hình AI
- rủi ro AI
- Dịch vụ AI
- nhằm mục đích
- KHÔNG KHÍ
- Không quân
- Phòng thí nghiệm nghiên cứu không quân
- Alexa
- thuật toán
- sắp xếp
- cho phép
- Cho phép
- cho phép
- bên cạnh
- Ngoài ra
- luôn luôn
- đàn bà gan dạ
- Mã Amazon
- trong số
- số lượng
- an
- phân tích
- và
- Android
- công bố
- trả lời
- nhân loại
- bất kì
- API
- xuất hiện
- LÀ
- AS
- xin
- đánh giá
- Trợ lý
- liên kết
- At
- Các cuộc tấn công
- Nghe được
- tự động
- xe hơi
- có sẵn
- nhận thức
- AWS
- Bad
- cơ sở
- BE
- bởi vì
- được
- trước
- hành vi
- Tin
- Hơn
- lớn
- biz
- Chặn
- Bloomberg
- Màu xanh da trời
- BMW
- thương hiệu
- Đưa
- xây dựng
- nhưng
- by
- cuộc gọi
- CAN
- khả năng
- mang
- trường hợp
- Trung tâm
- thay đổi
- nhân vật
- ChatGPT
- kiểm tra
- sự lựa chọn
- tuyên bố
- tuyên bố
- Quần áo
- đám mây
- CO
- hợp tác
- màu sắc
- Bình luận
- cam kết
- cộng đồng
- Các công ty
- thuyết phục
- phức tạp
- quan tâm
- Hậu quả
- Hãy xem xét
- nội dung
- bối cảnh
- bối cảnh
- điều khiển
- điều khiển
- Conversation
- cuộc hội thoại
- có thể
- Nga tư
- chủ yếu
- khách hàng
- Nguy hiểm
- nguy hiểm
- dữ liệu
- chiến lược dữ liệu
- Dave
- ngày
- xác định
- bộ
- Bộ Năng lượng
- bộ phận an ninh quê hương
- triển khai
- triển khai
- phát triển
- Phát triển
- kỹ thuật số
- Trợ lý kỹ thuật số
- trực tiếp
- Giám đốc
- làm mất thông tin
- do
- tài liệu
- làm
- Thuốc
- Sớm hơn
- dễ dàng
- Hiệu quả
- mới nổi
- năng lượng
- thuê
- Tham gia
- tương tác
- doanh nghiệp
- môi trường
- Tương đương
- đặc biệt
- Ether (ETH)
- Ngay cả
- mọi người
- ví dụ
- hiện tại
- mở rộng
- kinh nghiệm
- khai thác
- thể hiện
- khuôn mặt
- FAIL
- sai
- Liên bang
- cho ăn
- lĩnh vực
- Tập tin
- sai sót
- Trong
- Buộc
- Forward
- Nền tảng
- thành lập
- Giám đốc sáng lập
- Francisco
- Tiếng Pháp
- Thứ Sáu
- từ
- Frontier
- chức năng
- về cơ bản
- nói chung
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- khổng lồ
- golf
- lớn hơn
- an ninh lớn hơn
- Nhóm
- Xử lý
- Tay bài
- vui mừng
- phần cứng
- Có
- he
- cái đầu
- Tiêu đề
- giúp đỡ
- quê hương
- An ninh Nội địa
- host
- Độ đáng tin của
- HTTPS
- Hàng trăm
- xác định
- xác định
- Bất hợp pháp
- bất hợp pháp
- hình ảnh
- đang xử lý hình ảnh
- hình ảnh
- Tác động
- in
- bao gồm
- Bao gồm
- Tăng
- chỉ số
- các ngành công nghiệp
- báo
- thông tin
- vốn có
- Sáng kiến
- đổi mới
- đầu vào
- Thông minh
- trong
- liên quan đến
- iOS
- isn
- IT
- ITS
- chính nó
- jpg
- Biết
- nổi tiếng
- nhãn
- phòng thí nghiệm
- Phòng thí nghiệm
- Ngôn ngữ
- lớn
- Họ
- phóng
- ra mắt
- dẫn
- học tập
- ít nhất
- Hợp pháp
- Chiều dài
- Lexis Nexis
- ánh sáng
- Có khả năng
- LIMIT
- hạn chế
- giới hạn
- Listening
- ll
- Loài đà mã ở nam mỹ
- . Các địa điểm
- dài
- còn
- tìm kiếm
- máy
- học máy
- thực hiện
- làm cho
- nhà chế tạo
- toán học
- Có thể..
- có lẽ
- nghĩa là
- có nghĩa
- Trong khi đó
- cơ chế
- Siêu dữ liệu
- tâm
- giảm nhẹ
- kiểu mẫu
- mô hình
- điều độ
- chi tiết
- hầu hết
- chủ yếu
- bí ẩn
- quốc dân
- NBC
- NBC News
- mạng
- Thần kinh
- mạng lưới thần kinh
- Mới
- tin tức
- Phi lợi nhuận
- tại
- con số
- cây sồi
- Phòng thí nghiệm quốc gia Oak Ridge
- of
- phản cảm
- Office
- on
- những
- OpenAI
- or
- cơ quan
- Tổ chức
- ORNL
- Nền tảng khác
- ra
- Vượt trội hơn
- đầu ra
- bên ngoài
- kết thúc
- trang
- Giấy
- người
- hiệu suất
- biểu diễn
- có lẽ
- Tham quan PGA
- hình chụp
- hình ảnh
- Những bức ảnh
- nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- thêm
- chất độc
- điều luật
- tiềm năng
- mạnh mẽ
- Dự đoán
- trình bày
- Chủ tịch
- ngăn chặn
- trước
- riêng tư
- riêng
- thăm dò
- quá trình
- sản xuất
- chuyên nghiệp
- sự gia tăng
- phản đối
- đặt
- truy vấn
- Câu hỏi
- Nhanh chóng
- nâng cao
- phạm vi
- khác nhau,
- RE
- công nhận
- giảm
- phát hành
- Phát hành
- phát hành
- Báo cáo
- yêu cầu
- nghiên cứu
- nghiên cứu và phát triển
- Thông tin
- tôn trọng
- chịu trách nhiệm
- kết quả
- rủi ro
- Rủi ro
- đối thủ
- mạnh mẽ
- Lăn
- chạy
- s
- biện pháp bảo vệ
- Sự An Toàn
- Nói
- tương tự
- San
- San Francisco
- Quy mô
- quy mô
- Khoa học
- Khoa học và Công nghệ
- tìm kiếm
- Phần
- an ninh
- nghiêm túc
- dịch vụ
- DỊCH VỤ
- định
- bộ
- thiết lập
- thể hiện
- Đơn giản
- So
- Phần mềm
- Giải pháp
- Giải quyết
- một số
- âm thanh
- không gian
- người phát ngôn
- Thể thao
- lan tràn
- Tính ổn định
- Nhân sự
- đứng
- khởi động
- Tuyên bố
- báo cáo
- Vẫn còn
- Dừng
- chiến lược
- Chiến lược
- Học tập
- trình
- như vậy
- hỗ trợ
- hệ thống
- hệ thống
- T
- Hãy
- nhiệm vụ
- Công nghệ
- Công nghệ
- văn bản
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- Kia là
- họ
- điều
- điều này
- chặt lấy
- thời gian
- titan
- đến
- bây giờ
- Tokens
- nói với
- TẤN
- công cụ
- hàng đầu
- Chuyến du lịch
- giải đấu
- Train
- biến đổi
- cố gắng
- đúng
- thử
- cố gắng
- tv
- không thể
- sự hiểu biết
- không lường trước được
- đơn vị
- Cập nhật
- nâng cấp
- nâng cấp
- tải lên
- us
- sử dụng
- đã sử dụng
- người sử dang
- Người sử dụng
- sử dụng
- thông qua
- phó
- Phó Chủ Tịch
- tầm nhìn
- Giọng nói
- Lỗ hổng
- Dễ bị tổn thương
- Cảnh báo
- là
- cách
- we
- web
- tuần
- TỐT
- khi nào
- cái nào
- trong khi
- sẽ
- cửa sổ
- với
- không có
- từ
- Công việc
- đang làm việc
- bạn
- trên màn hình
- zephyrnet