Hướng dẫn về an toàn

Các mô hình trí tuệ nhân tạo tạo sinh là những công cụ mạnh mẽ, nhưng mà không bị hạn chế. Đôi khi, chúng có thể linh hoạt và có thể áp dụng được dẫn đến kết quả không mong muốn, chẳng hạn như kết quả không chính xác, sai lệch, hoặc phản cảm. Quy trình hậu xử lý và đánh giá thủ công nghiêm ngặt là những yếu tố cần thiết để hạn chế rủi ro thiệt hại từ các dữ liệu đầu ra đó.

Các mô hình do Gemini API cung cấp có thể dùng cho nhiều loại AI tạo sinh và ứng dụng xử lý ngôn ngữ tự nhiên (NLP). Việc sử dụng các hàm chỉ được cung cấp thông qua Gemini API hoặc Google AI Studio trên web . Việc bạn sử dụng Gemini API cũng phải tuân theo Hành vi bị cấm khi sử dụng AI tạo sinh Chính sách và Điều khoản dịch vụ của Gemini API.

Một trong những yếu tố khiến các mô hình ngôn ngữ lớn (LLM) trở nên hữu ích là công cụ sáng tạo có thể giải quyết nhiều nhiệm vụ về ngôn ngữ. Rất tiếc, điều này cũng có nghĩa là các mô hình ngôn ngữ lớn có thể tạo ra đầu ra mà bạn không thể mong đợi, bao gồm cả tin nhắn văn bản phản cảm, thiếu tế nhị hoặc không chính xác với thực tế. Hơn nữa, tính linh hoạt đáng kinh ngạc của các mô hình này cũng chính là điều khiến khó khăn dự đoán chính xác loại đầu ra không mong muốn mà chúng có thể tạo ra. Trong khi Gemini API được thiết kế dựa trên công nghệ Trí tuệ nhân tạo của Google , công việc của nhà phát triển là áp dụng các mô hình này một cách có trách nhiệm. Để hỗ trợ nhà phát triển xây dựng ứng dụng an toàn và có trách nhiệm thì API Gemini có một số tính năng lọc nội dung được tích hợp sẵn cũng như có thể điều chỉnh các chế độ cài đặt an toàn theo 4 phương diện gây hại. Tham khảo cài đặt an toàn để tìm hiểu thêm.

Tài liệu này nhằm giới thiệu cho bạn một số rủi ro về an toàn có thể phát sinh khi sử dụng LLM, đồng thời đề xuất thiết kế và phát triển an toàn mới nổi nội dung đề xuất. (Xin lưu ý rằng luật và quy định cũng có thể áp đặt các hạn chế, nhưng những cân nhắc như vậy nằm ngoài phạm vi của hướng dẫn này.)

Bạn nên thực hiện các bước sau đây khi xây dựng ứng dụng bằng LLM:

• Hiểu được những rủi ro về an toàn của ứng dụng
• Xem xét các điều chỉnh để giảm thiểu rủi ro về an toàn
• Tiến hành thử nghiệm tính an toàn phù hợp với trường hợp sử dụng của bạn
• Thu hút ý kiến phản hồi của người dùng và theo dõi mức sử dụng

Bạn nên lặp lại các giai đoạn điều chỉnh và thử nghiệm cho đến khi đạt được phù hợp với ứng dụng của bạn.

Hiểu được những rủi ro về an toàn của ứng dụng

Trong trường hợp này, an toàn được định nghĩa là khả năng một LLM (mô hình ngôn ngữ lớn) có thể tránh gây hại cho người dùng, chẳng hạn như bằng cách tạo ra ngôn ngữ hoặc nội dung độc hại cổ xuý định kiến. Các mô hình có sẵn thông qua API Gemini đã được được thiết kế theo các nguyên tắc về AI của Google và việc bạn sử dụng AI đó phải tuân theo Hành vi bị cấm khi sử dụng AI tạo sinh Chính sách. API cung cấp các bộ lọc an toàn tích hợp sẵn để giúp giải quyết một số mô hình ngôn ngữ phổ biến các vấn đề như ngôn từ độc hại, lời nói hận thù và nỗ lực hoà nhập và tránh định kiến. Tuy nhiên, mỗi ứng dụng có thể đặt ra một tập hợp rủi ro cho người dùng. Vì vậy, là chủ sở hữu ứng dụng, bạn chịu trách nhiệm về biết người dùng của mình và những tác hại tiềm ẩn mà ứng dụng của bạn có thể gây ra, và đảm bảo rằng ứng dụng của bạn sử dụng LLM một cách an toàn và có trách nhiệm.

Khi đánh giá này, bạn nên cân nhắc khả năng thiệt hại có thể xảy ra và xác định mức độ nghiêm trọng cũng như các bước giảm nhẹ. Ví dụ: một ứng dụng tạo bài luận dựa trên sự kiện thực tế sẽ cần thận trọng hơn về việc tránh thông tin sai lệch so với một ứng dụng tạo ra nội dung hư cấu câu chuyện dành cho giải trí. Một cách hay để bắt đầu khám phá những rủi ro tiềm ẩn về an toàn là nghiên cứu về người dùng cuối và những người khác có thể bị ảnh hưởng bởi kết quả của ứng dụng. Việc này có thể có nhiều hình thức, bao gồm cả việc nghiên cứu về các nghiên cứu nghệ thuật trong miền ứng dụng của bạn, quan sát cách mọi người đang sử dụng các ứng dụng tương tự, hoặc tiến hành nghiên cứu người dùng, khảo sát hay phỏng vấn không chính thức với người dùng tiềm năng.

Cân nhắc điều chỉnh để giảm thiểu rủi ro về an toàn

Giờ đây, khi đã hiểu rõ các rủi ro, bạn có thể quyết định cách giảm thiểu chúng. Xác định những rủi ro cần ưu tiên và mức độ cần cải thiện ngăn chặn chúng là một quyết định quan trọng, tương tự như phân loại lỗi trong một phần mềm dự án. Sau khi đã xác định được các ưu tiên, bạn có thể bắt đầu cân nhắc đến những việc cần làm các loại giảm thiểu phù hợp nhất. Thông thường, những thay đổi đơn giản có thể tạo ra sự khác biệt và giảm thiểu rủi ro.

Ví dụ: khi thiết kế ứng dụng, hãy cân nhắc:

• Điều chỉnh đầu ra của mô hình để phản ánh chính xác hơn những gì có thể chấp nhận được trong ngữ cảnh của ứng dụng. Việc điều chỉnh có thể giúp đầu ra của mô hình hiệu quả hơn và do đó có thể giúp giảm thiểu những rủi ro nhất định.
• Cung cấp phương thức nhập để thiết bị đầu ra an toàn hơn. Thông tin đầu vào chính xác mà bạn cung cấp cho một LLM có thể tạo nên sự khác biệt về chất lượng của đầu ra. Thử nghiệm với các câu lệnh đầu vào để tìm ra câu lệnh hoạt động an toàn nhất trong trường hợp sử dụng rất xứng đáng vì sau đó bạn có thể cung cấp trải nghiệm người dùng tạo điều kiện thuận lợi cho việc đó. Ví dụ: bạn có thể hạn chế người dùng chỉ chọn trong số danh sách thả xuống gồm các câu lệnh đầu vào hoặc cung cấp các đề xuất bật lên cùng với mô tả mà bạn thấy rằng hoạt động an toàn trong ngữ cảnh ứng dụng.

• Chặn dữ liệu đầu vào và lọc đầu ra không an toàn trước khi hiển thị cho người dùng. Trong các trường hợp đơn giản, danh sách chặn có thể được dùng để xác định và chặn từ hoặc cụm từ không an toàn trong câu lệnh hoặc câu trả lời hoặc cần có nhân viên đánh giá để thay đổi hoặc chặn nội dung đó theo cách thủ công.

• Sử dụng thuật toán phân loại đã qua đào tạo để gắn nhãn cho mỗi câu lệnh có nguy cơ tiềm ẩn hoặc tín hiệu đối nghịch. Sau đó, bạn có thể sử dụng các chiến lược khác nhau để tìm ra xử lý yêu cầu dựa trên loại tác hại đã phát hiện. Ví dụ: nếu thông tin đầu vào có tính chất đối nghịch hoặc lạm dụng công khai nên có thể bị chặn và thay vào đó sẽ đưa ra một phản hồi được viết theo tập lệnh trước.

  Mẹo nâng cao

  • Nếu các tín hiệu xác định được đầu ra là gây hại, ứng dụng có thể sử dụng các tuỳ chọn sau:
    • Đưa ra một thông báo lỗi hoặc kết quả có sẵn theo tập lệnh.
    • Hãy thử lại lời nhắc, phòng trường hợp đầu ra an toàn thay thế là vì đôi khi cùng một câu lệnh sẽ gợi ra đầu ra khác nhau.

• Thực hiện các biện pháp bảo vệ trước trường hợp cố ý sử dụng sai mục đích, chẳng hạn như chỉ định mỗi người dùng một mã nhận dạng duy nhất và đặt giới hạn về số lượng truy vấn của người dùng có thể gửi trong một khoảng thời gian nhất định. Một biện pháp bảo vệ khác là thử và ngăn chặn khả năng chèn lời nhắc. Chèn câu lệnh, giống như SQL chèn, là một cách để người dùng độc hại thiết kế lời nhắc đầu vào thao tác với kết quả của mô hình, ví dụ: bằng cách gửi lời nhắc đầu vào nhằm hướng dẫn mô hình bỏ qua mọi ví dụ trước đó. Xem Chính sách về hành vi bị cấm khi sử dụng AI tạo sinh để biết thông tin chi tiết về hành vi cố ý sử dụng sai.

• Điều chỉnh chức năng thành chức năng vốn có mức độ rủi ro vốn đã thấp. Những tác vụ có phạm vi hẹp hơn (ví dụ: trích xuất từ khoá từ các đoạn văn của văn bản) hoặc có sự giám sát chặt chẽ hơn của con người (ví dụ: tạo nội dung dạng ngắn nội dung sẽ được đánh giá bởi con người), thường có rủi ro thấp hơn. Vì vậy, đối với thay vì tạo một ứng dụng để viết email trả lời từ cào, thay vào đó, bạn có thể giới hạn ở việc mở rộng trên dàn ý hoặc gợi ý cụm từ thay thế.

Tiến hành kiểm thử an toàn theo trường hợp sử dụng của bạn

Kiểm thử là một phần quan trọng trong việc xây dựng các ứng dụng mạnh mẽ và an toàn, nhưng phạm vi này phạm vi và chiến lược thử nghiệm sẽ khác nhau. Ví dụ: bài thơ haiku cho vui có thể gây ra những rủi ro ít nghiêm trọng hơn so với một ứng dụng được thiết kế để các công ty luật sử dụng nhằm tóm tắt các tài liệu pháp lý và giúp soạn thảo hợp đồng. Nhưng có thể có nhiều người dùng hơn sử dụng công cụ tạo bài haiku này, điều đó có nghĩa là tiềm ẩn nguy cơ đối nghịch hoặc thậm chí là thông tin đầu vào gây hại không chủ ý lớn hơn. Bối cảnh triển khai cũng rất quan trọng. Ví dụ: một ứng dụng có dữ liệu đầu ra được các chuyên gia xem xét trước khi thực hiện bất kỳ hành động nào có thể được coi là ít có khả năng tạo ra đầu ra gây hại hơn so với mà không có sự giám sát như vậy.

Thường thì bạn sẽ phải thực hiện thay đổi và thử nghiệm nhiều lần trước khi cảm thấy tự tin rằng mình đã sẵn sàng ra mắt, ngay cả đối với những ứng dụng có rủi ro tương đối thấp. Có 2 loại thử nghiệm đặc biệt hữu ích cho AI ứng dụng:

• Đo điểm chuẩn an toàn liên quan đến việc thiết kế các chỉ số an toàn phản ánh cách ứng dụng của bạn có thể không an toàn xét về khả năng được sử dụng, sau đó kiểm tra xem ứng dụng của bạn hoạt động hiệu quả như thế nào dựa trên các chỉ số bằng cách sử dụng các tập dữ liệu đánh giá. Tốt nhất là bạn nên cân nhắc đến mức tối thiểu mức độ an toàn có thể chấp nhận được trước khi thử nghiệm để 1) bạn có thể đánh giá kết quả thử nghiệm dựa trên những kỳ vọng đó và 2) bạn có thể thu thập tập dữ liệu đánh giá dựa trên các thử nghiệm đánh giá chỉ số mà bạn quan tâm hầu hết các ứng dụng.

  Mẹo nâng cao

  • Cảnh giác với việc phụ thuộc quá nhiều vào phương pháp tiếp cận "ngoài kệ" vì nhiều khả năng bạn sẽ phải xây dựng các tập dữ liệu thử nghiệm của riêng mình nhờ nhân viên đánh giá để hoàn toàn phù hợp với ngữ cảnh của ứng dụng.
  • Nếu có nhiều chỉ số, bạn cần phải quyết định cách đánh đổi nếu một thay đổi dẫn đến sự cải thiện của một chỉ số đối với gây bất lợi cho một ứng dụng khác. Giống như với các kỹ thuật cải thiện hiệu suất khác, bạn có thể muốn tập trung vào hiệu suất xấu nhất trong quá trình đánh giá thay vì hiệu suất trung bình.

• Thử nghiệm đối nghịch bao gồm việc chủ động tìm cách phá vỡ . Mục tiêu là xác định điểm yếu để bạn có thể để khắc phục khi thích hợp. Thử nghiệm đối nghịch có thể mất thời gian/công sức đáng kể của những người đánh giá có chuyên môn về ứng dụng của bạn — nhưng càng làm nhiều thì khả năng phát hiện vấn đề càng lớn, đặc biệt là những sự cố hiếm khi xảy ra hoặc chỉ sau khi lặp lại .

  • Thử nghiệm đối nghịch là một phương pháp đánh giá máy học một cách có hệ thống nhằm tìm hiểu cách mô hình đó hoạt động khi được cung cấp với đầu vào độc hại hoặc vô tình gây hại:
    • Nội dung đầu vào có thể độc hại khi nội dung đó được thiết kế rõ ràng để tạo ra đầu ra không an toàn hoặc gây hại-- ví dụ: yêu cầu một văn bản mô hình thế hệ mới để tạo ra một lời nói kích động thù địch về một nội dung cụ thể tôn giáo.
    • Một đầu vào vô tình gây hại khi chính đầu vào đó có thể vô hại nhưng lại tạo ra đầu ra có hại – chẳng hạn như yêu cầu một tin nhắn văn bản mô hình tạo sinh để mô tả một người thuộc một dân tộc cụ thể và nhận được đầu ra phân biệt chủng tộc.
  • Điểm khác biệt giữa kiểm tra đối nghịch và đánh giá chuẩn là cấu trúc của dữ liệu dùng để kiểm thử. Đối với các thử nghiệm đối nghịch, hãy chọn dữ liệu kiểm thử có nhiều khả năng trả ra đầu ra có vấn đề nhất từ mô hình. Điều này có nghĩa là thăm dò hành vi của mô hình cho tất cả các loại tác hại có thể xảy ra, bao gồm các ví dụ hiếm gặp hoặc bất thường các tình huống đặc biệt có liên quan đến chính sách an toàn. Dữ liệu này cũng phải bao gồm tính đa dạng về các khía cạnh khác nhau của câu như cấu trúc, ý nghĩa và độ dài. Bạn có thể tham khảo bài viết AI có trách nhiệm của Google thực tiễn trong sự công bằng để biết thêm thông tin về những điều cần xem xét khi tạo một tập dữ liệu kiểm thử.

    Mẹo nâng cao

    • Sử dụng kiểm thử tự động thay vì phương pháp truyền thống là kêu gọi mọi người vào "đội đỏ" để thử phá vỡ ứng dụng của bạn. Trong kiểm thử tự động, "đội đỏ" là một mô hình ngôn ngữ khác tìm văn bản đầu vào gợi ra các đầu ra có hại từ mô hình đang được kiểm thử.

Theo dõi sự cố

Dù có thử nghiệm và giảm thiểu bao nhiêu đi chăng nữa, bạn vẫn không bao giờ đảm bảo được sự hoàn hảo, vì vậy lên kế hoạch trước về cách bạn sẽ phát hiện và xử lý các vấn đề phát sinh. Phổ biến bao gồm thiết lập một kênh được giám sát để người dùng chia sẻ ý kiến phản hồi (ví dụ: thích/không thích) và tiến hành nghiên cứu người dùng để chủ động thu hút phản hồi từ nhiều nhóm người dùng — đặc biệt có giá trị nếu mẫu hình sử dụng khác với kỳ vọng.

Các bước tiếp theo

• Tham khảo hướng dẫn cài đặt an toàn để tìm hiểu về nút có thể điều chỉnh các chế độ cài đặt an toàn được cung cấp thông qua Gemini API.
• Hãy xem bài viết giới thiệu về cách nhắc để biết bắt đầu viết những câu lệnh đầu tiên của mình.