AIを使った新しい学習法が現れた本を読んだ | Colorful Pieces of Game
ある日、twitterで画像のようなツイートをしたところ、突然、日経BPさんから献本しますので読んでいただけませんかってメールがやってきた。 突然のご連絡で申し訳ございません。 岩崎様のXでのご投稿を拝見しまして、ぜひご紹介したい書籍がありご連絡いたしました。 岩崎様がXで仰っていたような「AIで動くゲームを作るためには、動くゲームを作れる実力が必要で、これがないとそもそもAIに正しく動くコードを作る指示が出来ない」を実際に体感した女子大生の実話になります。 もちろん、こんな面白い話、読む以外ありえないので献本していただいた本が『＃100日チャレンジ 毎日連続100本アプリを作ったら人生が変わった』。 これを読んで、LLM(AI)登場以前には不可能だった非伝統的な学習方法が登場し、少なくもそれを使って同じ山に登れることが証明されたと思った＆とても面白かったので、この本の内容に触れつつ、そう
LLMチューニングのための強化学習：GRPO（Group Relative Policy Optimization） - どこから見てもメンダコ
DeepSeek-R1にも採用されたLLMチューニングのための強化学習手法 GRPO（Group Relative Policy Optimization）について考えたことをまとめます。 GRPO: DeepSeek-R1の強化学習ファインチューニング手法 前提手法：TRPO/PPO TRPO: Trust Region Policy Optimization PPO: Proximal Policy Optimization GRPOとPPOの差分：①アドバンテージ算出と②参照モデルからのKL距離制約 変更点①： アドバンテージAの算出方法 REINFORCE： 価値関数近似なし方策勾配法 PPO（Actor-Critic）： 価値関数近似あり方策勾配法 GRPO： スケーリングされたREINFORCE 変更点 ②： 参照モデル（SFTモデル）からのKL距離制約 従来は参照モデル制約は
15時間で学べるAI学習決定版。グーグルが提供する無料の機械学習集中講座が大幅刷新され、LLMもカバー | DevelopersIO
15時間で学べるAI学習決定版。グーグルが提供する無料の機械学習集中講座が大幅刷新され、LLMもカバー Googleが提供する無料の機械学習の集中講座はご存知でしょうか? 機械学習に関する幅広いテーマを座学・動画・実験・コーディングといった様々なアプローチで15時間で学べます。しかも無料です。 このコンテンツはもともとは2018年に公開されたものであり、多くのエンジニアに活用されました。 とはいえ、2017年のTransformerの論文、大規模言語モデルの発展、2022年のChatGPTリリースなど、AIは急速に発展し、より広い職種に身近なものになっています。 この流れを受けて、入門講座は2024年8月に大幅に刷新されました。 ※冒頭で登場するResearch DirectorのPeter NorvigはAIの世界的な教科書"Artificial Intelligence: A Mode
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
