모든 LLM을 위한 새로운 도구로 Responsible Generative AI Toolkit 진화

AI를 책임감 있게 개발하는 것은 매우 중요합니다. 때문에 개방형 AI 모델을 설계, 개발, 평가하기 위한 리소스를 제공하는 Responsible GenAI Toolkit을 만들었습니다. 그것이 끝이 아닙니다! 이제는 Gemma든 Gemini든 혹은 다른 모델이든 간에 모든 LLM과 함께 작동하도록 설계된 새로운 기능으로 툴킷을 확장하고 있습니다. 이러한 도구 및 기능 세트 덕분에 누구든 자신이 선택한 모델에 관계없이 AI를 책임감 있게 개발할 수 있습니다.

새로운 도구와 기능은 다음과 같습니다.

SynthID Text: AI로 생성된 콘텐츠의 워터마킹 및 감지

텍스트를 사람이 작성했는지 AI가 생성했는지 구별하기 어려운가요? SynthID Text가 여러분을 도와드립니다. 이 기술을 사용하면 GenAI 제품에서 생성된 텍스트를 워터마킹하고 감지할 수 있습니다.

작동 방식: SynthID는 AI로 생성된 텍스트에 디지털 워터마크를 직접 삽입하여 AI 생성 콘텐츠를 워터마킹하고 식별합니다.

개발자를 위한 오픈소스: 모든 개발자는 Hugging Face 및 Responsible GenAI Toolkit을 통해 텍스트용 SynthID에 액세스할 수 있습니다.

자세히 알아보기:

• Nature의 논문에서 기술적 세부 사항을 자세히 알아보세요.

• Responsible GenAI Toolkit website 웹사이트에서 SynthID를 책임감 있게 적용하는 방법을 알아보세요.

• SynthID 기술 페이지를 훑어보면서 모든 모달리티 전반에서 SynthID 기능의 포괄적인 개요를 확인해 보세요.

오늘 바로 사용해 보세요.

• Hugging Face Transformers 라이브러리에서 프로덕션급 구현을 사용할 수 있습니다. GenAI 애플리케이션용 SynthID 구성에 대한 단계별 안내는 Hugging Face Space를 확인하세요.

• 대화형 학습을 위한 Colab 노트북과 함께, GitHub와 PyPI에서 참조 구현도 제공됩니다.

저희는 오픈소스 커뮤니티를 초대해 위의 구현을 기반으로 프레임워크 전반에 걸쳐 SynthID Text의 범위를 확장하는 데 도움을 받고자 합니다. 궁금하신 점은 GitHub 또는 Discord를 통해 문의하세요.

Model Alignment: LLM 지원으로 프롬프트 미세 조정

비즈니스 정책을 효과적으로 적용하는 프롬프트의 작성은 고품질 결과물을 생성하는 데 매우 중요합니다.

Model Alignment 라이브러리를 사용하면 LLM의 지원을 받아 프롬프트를 미세 조정할 수 있습니다.

모델의 결과물을 어떻게 변경하고 싶은지에 대한 피드백을 전체적인 비판 또는 일련의 지침으로서 제시해 주세요.

Gemini 또는 선호하는 LLM을 사용하여 피드백을 프롬프트로 변환하세요. 이때 프롬프트는 모델의 동작을 애플리케이션의 요구 및 콘텐츠 정책에 일치시킵니다.

오늘 바로 사용해 보세요.

• Colab에서 대화형 데모를 실험하고, Gemini가 Gemma에 대한 프롬프트를 정렬하고 개선하는 데 어떻게 도움을 줄 수 있는지 살펴보세요.

• PyPI에서 라이브러리에 액세스하세요.

• Vertex AI Studio에서 Refine Prompt로 이러한 방법을 활용하세요.

Prompt Debugging: Google Cloud에서 LIT 배포를 간소화하세요.

디버깅 프롬프트는 책임감 있는 AI 개발에 필수적입니다. Google Cloud의 LIT(Learning Interpretability Tool)를 위한 향상된 배포 환경으로 Prompt Debugging이 더 쉽고 빨라졌습니다.

• 효율적인 다목적 모델 제공: Cloud Run GPU에서의 생성, 토큰화, 중요도 점수화를 위한 지원과 더불어 LIT의 새로운 모델 서버 컨테이너를 활용해서 Hugging Face 또는 Keras LLM을 배포하세요.

• LIT 앱에서 확장된 연결성: Vertex API를 통해 독립 호스트 모델 또는 Gemini에 원활하게 연결해 보세요(생성 전용).

• 자세히 알아보기: Responsible GenAI Toolkit 웹사이트에서 책임감 있는 모델 정렬을 위한 LIT의 기능을 살펴보세요.

개발자 여러분의 소중한 피드백을 기다리겠습니다!

Google Developer Community Discord에서 대화에 참여하고 위에서 설명한 신규 추가 기능에 대한 생각을 알려 주세요. 여러분의 의견을 반영하여 계속해서 책임감 있는 AI의 미래를 함께 만들어 나가겠습니다.