Tin tặc cố gắng tấn công ChatGPT

Theo dõi Báo Gia Lai trênGoogle News
Nỗ lực bất thành của tin tặc vẫn gây quan ngại cho giới bảo mật nếu công cụ trí tuệ nhân tạo ChatGPT hay các AI tương tự rơi vào tay kẻ xấu.

Theo công ty an ninh mạng Check Point Software Technologies (CPST), đang có nhiều cuộc tấn công nhắm vào chương trình trí tuệ nhân tạo ChatGPT của OpenAI.

"Chúng tôi nhận thấy có những cuộc tấn công từ tin tặc Nga nhằm vượt qua rào cản địa lý đang áp dụng trên ChatGPT", Pete Nicoletti - trưởng phòng Thông tin an ninh của CPST chia sẻ. "Rào cản" mà Nicoletti đề cập chính là khả năng giới hạn quyền truy cập vào giao diện lập trình ứng dụng (API) của ChatGPT, công cụ giúp chặn các truy vấn từ Nga hiện nay.

Tin tặc tấn công và kiểm soát được trí tuệ nhân tạo sẽ gây ra nhiều hệ lụy. Ảnh: Chụp màn hình

Tin tặc tấn công và kiểm soát được trí tuệ nhân tạo sẽ gây ra nhiều hệ lụy. Ảnh: Chụp màn hình

Ông không đề cập chi tiết tới công cụ giúp CPST đo kiểm hệ thống để phát hiện nỗ lực truy cập trái phép từ tin tặc. Lãnh đạo công ty cũng nhận định hoạt động thăm dò của hacker Nga chỉ phản ánh một phần nỗ lực ngày càng tăng của các bên trong việc cố gắng có được quyền kiểm soát vào ChatGPT.

Nicoletti cũng đề cập tới trường hợp đã xảy ra trên mạng xã hội Reddit khi có người cố gắng khai thác ChatGPT theo hướng tiêu cực bằng cách dạy trí tuệ nhân tạo một "nhân cách mới" mang tên DAN (viết tắt của Do Anything Now - Làm bất kỳ điều gì). Người này đã sử dụng các câu lệnh nhập liệu hòng thao túng ChatGPT để AI này sản sinh những nội dung vượt khỏi khuôn khổ cho phép đối với trí tuệ nhân tạo, trong đó có phát ngôn gây thù địch.

Hiện chuyên gia bảo mật cũng không rõ liệu có hoạt động khai thác lỗ hổng trên ChatGPT mà chưa bị phát hiện, nhưng nếu có, nhiều khả năng là hình thức tấn công giả mạo nâng cao. Nhưng dù vậy, đây vẫn là vấn đề đáng phải để tâm.

Theo Popular Mechanics, đã có nhiều lo ngại xảy ra, và đó là lý do khiến giới phân tích đặt trí tuệ nhân tạo tổng hợp (AGI) lên đầu trong danh sách các mối quan tâm về sự rủi ro cho thế giới. Nghị sĩ Julian Hill của quốc hội Úc cho rằng nếu mọi người bắt đầu suy nghĩ, sẽ không mất nhiều thời gian để nhận ra những rủi ro đột phá và thảm khốc từ AGI chưa được thuần hóa là "có thật, hợp lý và dễ hình dung". Theo ông, AGI có khả năng cách mạng hóa thế giới của chúng ta theo những cách mà chúng ta chưa thể tưởng tượng được, nhưng nếu AGI vượt qua trí thông minh của con người, nó có thể gây ra tác hại đáng kể cho nhân loại nếu các mục tiêu và động cơ của nó không phù hợp với mục tiêu và động cơ mà chúng ta đặt ra.

Có thể bạn quan tâm

Gia Lai: Sơ kết 3 năm thực hiện Kế hoạch triển khai đề án “Hỗ trợ hệ sinh thái khởi nghiệp đổi mới sáng tạo Quốc gia đến năm 2025”

Gia Lai: Sơ kết 3 năm thực hiện Kế hoạch triển khai đề án “Hỗ trợ hệ sinh thái khởi nghiệp đổi mới sáng tạo Quốc gia đến năm 2025”

(GLO)- Chiều 14-11, Sở Khoa học và Công nghệ (KH-CN) Gia Lai tổ chức hội nghị sơ kết 3 năm thực hiện Kế hoạch triển khai đề án “Hỗ trợ hệ sinh thái khởi nghiệp đổi mới sáng tạo (ĐMST) Quốc gia đến năm 2025” trên địa bàn tỉnh.

Việc áp dụng, duy trì và cải tiến HTQLCL theo Tiêu chuẩn quốc gia TCVN ISO 9001: 2015 góp phần cải thiện và nâng cao chỉ số cải cách hành chính, chỉ số hài lòng của người dân, tổ chức đối với sự phục vụ của CQHCNN trên địa bàn tỉnh. Ảnh: Nhật Hào

Gia Lai áp dụng, duy trì và cải tiến hệ thống quản lý chất lượng theo Tiêu chuẩn quốc gia TCVN ISO 9001:2015

(GLO)-Ủy ban nhân dân tỉnh Gia Lai vừa ban hành Kế hoạch số 2555/KH-UBND về triển khai hoạt động xây dựng, áp dụng, duy trì và cải tiến Hệ thống quản lý chất lượng theo Tiêu chuẩn quốc gia TCVN ISO 9001:2015 tại các cơ quan, tổ chức thuộc hệ thống hành chính Nhà nước trên địa bàn tỉnh năm 2025.