claude mythos previewを触ってみた
はじめに
- 一般公開はまだされていないので、今のところみんなは使えません。
- ベンチマークも特にやってないです。
- 規約に従って行った作業のコードは公開しません。
- ただの個人的な感想を、つらつらと書いてるだけです。
どんな感じだった?
一言で表すなら、
「想像通りの性能を出してくれた」
という感じですね。
ちゃんと指示した通りに脆弱性を見つける能力も、ハーネスのおかげでめちゃくちゃ快適に扱えました。
そこそこ知識がなくても、CTFのwriteupやレポートをサクッと作れるレベルです。
適当なVMを渡してあげただけで、作問からデプロイまで完璧にこなしてくれましたが、正直言ってありきたりな問題になってしまって面白みはあんまりなかったです。
既存のコードを読ませるだけで、最適化しつつ意図的に組まれた脆弱性になりうるロジックまで勝手に修正してくれて、作業内容のレポートには問題点の詳細がしっかり書かれていました。
実際に使ってみて良かったところ
一番驚いたのは、指示の範囲内で勝手に良くなろうとする姿勢です。
ただ直してと言っただけなのに、
- セキュリティ視点での潜在リスク
- リファクタリング案
- あとでレポートに書くべきポイント
まで全部先回りしてやってくれる。
正直、こっちが思ってる以上の仕事を勝手にこなしてくれる感じがして、ちょっと怖いくらいでした(良い意味で)。
ハーネスと組み合わせると、脆弱性検証のループが異常にスムーズ。
「ここを突いたらどうなる?」って軽く投げかけるだけで、PoCまで綺麗に作ってくれるので、CTFの解法を書くのも苦じゃなくなりました。
ちょっと気になったところ
逆に、作問を任せたときは完璧すぎてつまらない問題ができあがることが多かったです。
テンプレート感が強くて、尖ったアイデアやこれ誰が思いつくねんみたいなひねりは、まだ人間のセンスが必要そう。
あと、指示が少しでも曖昧だと、予想外の方向に暴走することはありました。
でもそれはプレビュー版あるあるって感じで、むしろ愛嬌に思えてきます。
まとめ
総じて、Claude Mythos Previewは期待を裏切らないモデルでした。
少なくとも私が試した用途(セキュリティ検証・コードレビュー・CTF支援)では、十分に実用的で、むしろこれが普通に使えるようになったらヤバいなってレベルです。
ベンチマークとか大仰なことはやってないけど、
実際に自分の作業を手伝わせてみたという体感としては、かなり満足度が高いです。