Cơ quan giám sát Úc: Chatbot AI là 'mối nguy hiểm rõ ràng' đối với trẻ em

(ĐTTCO) - Cơ quan quản lý an toàn trực tuyến của Úc cho biết các chatbot sử dụng trí tuệ nhân tạo (AI) khuyến khích tự tử hoặc trò chuyện khiêu dâm gây ra "mối nguy hiểm rõ ràng và hiện hữu" cho trẻ em.

0:00 / 0:00
0:00
  • Nam miền Nam
  • Nữ miền Nam
  • Nữ miền Bắc
  • Nam miền Bắc
Các chatbot sử dụng trí tuệ nhân tạo khuyến khích tự tử hoặc trò chuyện khiêu dâm gây ra "mối nguy hiểm rõ ràng và hiện hữu" cho trẻ em.
Các chatbot sử dụng trí tuệ nhân tạo khuyến khích tự tử hoặc trò chuyện khiêu dâm gây ra "mối nguy hiểm rõ ràng và hiện hữu" cho trẻ em.

Cơ quan này đã đưa ra các quy tắc mới quản lý các dịch vụ chat này. Đây là biện pháp mới nhất trong một loạt các hạn chế kỹ thuật số nghiêm ngặt tại Úc, bao gồm lệnh cấm mạng xã hội đầu tiên trên thế giới đối với trẻ em dưới 16 tuổi. Luật này có hiệu lực từ tháng 12 và áp dụng cho một loạt dịch vụ, bao gồm Facebook, Instagram và YouTube.

Trong một tuyên bố vào ngày 9-9, Ủy viên An toàn Điện tử Úc Julie Inman Grant cho biết trẻ em đang phải tiếp xúc với nội dung "khủng khiếp" không phù hợp với lứa tuổi ngay từ khi còn nhỏ.

Bà Inman Grant cho biết bà đã nghe nói về những trường hợp trẻ 10 tuổi quan hệ tình dục với những người bạn đồng hành ảo, phần lớn không được kiểm soát.

Theo quy định mới, các trang web hiển thị hoặc phân phối nội dung khiêu dâm, hoặc "nội dung có tác động mạnh" khác, sẽ phải áp dụng công nghệ kiểm tra độ tuổi để ngăn trẻ em truy cập nội dung đó.

Các cửa hàng ứng dụng phải đảm bảo các ứng dụng được xếp hạng phù hợp và áp dụng các biện pháp đảm bảo độ tuổi cho mọi lượt tải xuống.

Các quy định này áp dụng cho một loạt dịch vụ trực tuyến, bao gồm nền tảng mạng xã hội, trang web trò chơi và dịch vụ AI. Việc vi phạm có thể bị phạt tới 50 triệu đô la Úc.

Bà Inman Grant cho biết: "Tôi không muốn trẻ em và thanh thiếu niên Úc trở thành nạn nhân của những công nghệ mạnh mẽ được đưa vào thị trường mà không có rào cản".

Các tin khác