Google: Phần mềm AI Gemini bị lạm dụng để tạo nội dung khủng bố giả mạo

Theo dõi Báo Gia Lai trên Google News

Google nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo.

google-dd.jpg
Google đã sử dụng tính năng so khớp để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. (Nguồn: Aibusiness)

Trong thông báo gửi đến giới chức Australia, tập đoàn công nghệ Google cho biết gần 1 năm qua họ nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) của Google là Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo; và 86 báo cáo của người dùng cảnh báo Gemini đang bị lạm dụng để sản xuất các nội dung lạm dụng trẻ em.

Ủy ban An toàn Điện tử Australia đánh giá báo cáo của Google cung cấp cái nhìn sâu sắc đầu tiên trên thế giới về cách người dùng có thể khai thác công nghệ để tạo ra nội dung độc hại và phi pháp.

Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho rằng điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI xây dựng và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn hành vi sản xuất những kiểu nội dung nguy hại, giả mạo trên.

Google đã sử dụng tính năng so khớp - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng cùng một hệ thống để loại bỏ nội dung khủng bố hoặc cực đoan bạo lực do Gemini tạo ra.

Theo luật hiện hành của Australia, các công ty công nghệ phải cung cấp định kỳ cho Ủy ban An toàn Điện tử thông tin về các nỗ lực giảm thiểu tác hại nếu không có thể sẽ bị xử phạt.

Gần nhất, các công ty phải báo cáo thông tin cho ủy ban này trong giai đoạn từ tháng 4/2023- 2/2024. Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter - sau này đổi tên thành X, vì những thiếu sót trong báo cáo của họ.

X đã một lần kháng cáo thất bại về khoản tiền phạt 610.500 AUD (382.000 USD) nhưng mạng xã hội này dự kiến sẽ tiếp tục kháng cáo. Telegram cũng có kế hoạch kháng cáo mức phạt đối với kênh này.

Kể từ khi chatbot “đình đám” ChatGPT của công ty OpenAI (Mỹ) “bùng nổ” trong nhận thức của công chúng vào cuối năm 2022, các cơ quan quản lý trên khắp thế giới đã kêu gọi áp dụng các biện pháp hữu hiệu hơn để đảm bảo các đối tượng xấu không lạm dụng AI để kích động khủng bố, lừa đảo, tạo ra các nội dung khiêu dâm giả mạo và các hành vi lạm dụng khác.

Theo Thanh Tú (TTXVN/Vietnam+)

Có thể bạn quan tâm

Giáo sư GS Tsuyoshi Nakaya (Đại học Kyoto, Nhật Bản): Tôi tin vào năng lực của thế hệ trẻ Việt Nam

Giáo sư Tsuyoshi Nakaya (Đại học Kyoto, Nhật Bản): Tôi tin vào năng lực của thế hệ trẻ Việt Nam

(GLO)- Với tầm ảnh hưởng quốc tế, Giáo sư Tsuyoshi Nakaya (Đại học Kyoto, Nhật Bản) đóng vai trò cầu nối quan trọng trong việc hỗ trợ xây dựng Nhóm nghiên cứu Vật lý Neutrino tại Viện Khoa học và Giáo dục liên ngành (IFIRSE) thuộc Trung tâm Quốc tế khoa học và giáo dục liên ngành (ICISE).

Điểm tựa chuyển đổi số của tỉnh

Điểm tựa chuyển đổi số của tỉnh

(GLO)- Ở Gia Lai, Trung tâm Chuyển đổi số giữ vai trò “hạt nhân công nghệ”, đảm nhiệm quản lý, giám sát và khai thác vận hành các nền tảng, ứng dụng và dữ liệu số, trở thành điểm tựa giúp tỉnh hướng tới chính quyền số, kinh tế số và xã hội số.

Chuẩn hóa sản xuất theo tiêu chuẩn VietGAP: Giải pháp phát triển nông nghiệp bền vững

Chuẩn hóa sản xuất theo tiêu chuẩn VietGAP: Giải pháp phát triển nông nghiệp bền vững

(GLO)- Để nâng cao giá trị nông sản, nhiều hợp tác xã và nông dân phía Tây tỉnh Gia Lai từng bước chuẩn hóa sản xuất theo tiêu chuẩn VietGAP. Việc thực hành sản xuất từ làm đất, chọn giống, quản lý sâu bệnh, thu hoạch, bảo quản đến truy xuất nguồn gốc sản phẩm đã đem lại nhiều hiệu ứng tích cực.

Ý thức bảo mật

Ý thức bảo mật

Tại Hội nghị Sơ kết công tác 6 tháng đầu năm của Hiệp hội An ninh mạng quốc gia (NCA) vừa qua, đại tướng Lương Tam Quang - Bộ trưởng Bộ Công an, Chủ tịch Hiệp hội An ninh mạng quốc gia - nhấn mạnh:

Vợ chồng Giáo sư Trần Thanh Vân nhận Huân chương Bắc Đẩu Bội Tinh hạng Sĩ quan do Tổng thống Pháp trao tặng

Vợ chồng Giáo sư Trần Thanh Vân nhận Huân chương Bắc Đẩu Bội Tinh hạng Sĩ quan do Tổng thống Pháp trao tặng

(GLO)-Tổng thống Pháp vừa ký sắc lệnh trao tặng Huân chương Bắc Đẩu Bội Tinh hạng Sĩ quan cho Giáo sư Trần Thanh Vân-Chủ tịch Hội Khoa học Gặp gỡ Việt Nam ở Pháp, Giám đốc Trung tâm Quốc tế Khoa học và Giáo dục liên ngành (ICISE) và Giáo sư Lê Kim Ngọc-Chủ tịch Hội Bảo trợ trẻ em Việt Nam tại Pháp.

null