Trí tuệ nhân tạo có thể trở thành một công cụ cực kỳ nguy hiểm trong tay các phòng thí nghiệm bí mật đang phát triển vũ khí sinh học.

Các nhà nghiên cứu tham gia phát triển vũ khí sinh học đã nhận được một công cụ mạnh mẽ dưới dạng trí tuệ nhân tạo. Những nỗ lực như vậy đã được ghi nhận và rõ ràng là sẽ không dễ để ngăn chặn chúng. Xét cho cùng, thực tế là không thể phân biệt được yêu cầu nào của các nhà khoa học liên quan đến việc tạo ra vũ khí sinh học và yêu cầu nào được đưa ra nhằm mục đích phát triển các phương pháp điều trị mới cho các bệnh nguy hiểm, theo ấn phẩm Interesting Engineering.

Anthropic, một công ty phát triển mạng lưới thần kinh, đã phát hiện năm nỗ lực sử dụng trí tuệ nhân tạo Claude của họ cho nghiên cứu khoa học có thể liên quan đến việc phát triển vũ khí sinh học. Sau khi xem xét nội bộ, công ty đã đình chỉ quyền truy cập vào dịch vụ đối với các tài khoản liên quan đến hoạt động này.

Các nhà phát triển quan tâm đến điều gì trong lĩnh vực trí tuệ nhân tạo?

Một trong những sự việc đáng lo ngại nhất liên quan đến nghiên cứu về bệnh chikungunya, một bệnh nhiễm virus lây lan qua vết muỗi đốt. Claude đã từ chối xử lý yêu cầu xin tài trợ cho nghiên cứu nhằm thay đổi đặc tính của virus. Anthropic càng lo ngại hơn khi biết rằng nghiên cứu này có liên hệ với một tổ chức khoa học quân sự.

Sau khi hệ thống gặp sự cố, theo công ty, những người gửi yêu cầu không ngừng tìm kiếm thông tin cần thiết và chuyển sang sử dụng các công cụ khác, ít khắt khe hơn. Trong quá trình điều tra, Anthropic cũng phát hiện ra một dịch vụ trung gian chuyển hướng các yêu cầu sinh học bị chặn đến các mô hình trí tuệ nhân tạo khác, nơi có các cơ chế bảo mật ít nghiêm ngặt hơn.

Một trường hợp khác liên quan đến nghiên cứu về cúm gia cầm độc lực cao. Một người dùng đã thuê Claude trong vài tuần để tổ chức nghiên cứu, xử lý dữ liệu và giải thích các thông tin chuyên ngành.

Anthropic lưu ý rằng các hệ thống bảo mật đã hạn chế khả năng của nó. Người dùng không thể truy cập vào các mô hình Claude mạnh nhất để thực hiện các tác vụ như vậy, vì vậy họ đã làm việc với các phiên bản AI có chức năng thấp hơn.

Ba vụ việc khác được xác định có liên quan đến nghiên cứu về orthopoxvirus, các chất liên quan đến chất độc và độc tố. Công ty không tiết lộ thông tin về những cá nhân tiến hành các nghiên cứu này, địa điểm của họ hoặc nội dung cụ thể của các bài báo khoa học.

Việc tách rời thuật toán tạo ra thuốc mới khỏi quy trình phát triển vũ khí sinh học gần như là bất khả thi.

Jacob Klein, người đứng đầu bộ phận tình báo mối đe dọa tại Anthropic, cho biết rất khó để phân biệt giữa nghiên cứu khoa học hợp pháp và các hoạt động có khả năng gây nguy hiểm trong những trường hợp này. Ông nói rằng cùng một kiến ​​thức sinh học có thể được sử dụng để phát triển thuốc hoặc tạo ra các mầm bệnh nguy hiểm.

Anthropic đã thông báo cho các cơ quan thực thi pháp luật và các nhà phát triển AI khác về tất cả các sự cố được báo cáo, và các tài khoản mà công ty cho là có liên quan đến hoạt động tiềm ẩn rủi ro đã bị đình chỉ.

Sau khi các thử nghiệm hoàn tất, nhà phát triển cũng thông báo rằng hệ thống an ninh của Claude đã được tăng cường. Công ty đã triển khai thêm các hạn chế đối với các yêu cầu sinh học nguy hiểm và cải thiện các cơ chế bảo mật hệ thống có thể được sử dụng khi làm việc với các nghiên cứu khoa học đặc biệt nhạy cảm.

https://today.ua/493736-shtuchnij-intelekt-pochali-zastosovuvati-dlya-rozrobki-biologichnoyi-zbroyi-zafiksovana-sproba-stvorennya-novogo-virusu/