$ play ep08 — だい8かい の授業
#8 AIに任せて壊れたりしない？— 権限と安全の話
まず結論
AIに任せて壊れたりしないのか。答えは、「仕組みの上では壊れにくい。ただし、最後の鍵はあなたが持っている」。
Claude Codeには「実行前に確認する」というブレーキが標準装備されています。勝手に壊れることは起きにくい。でも、その確認に「OK、いいよ」と言うのはあなたです。つまり安全の最後の1ピースは、あなたの「いいよ」が、中身を見てから言えているかどうか。
とはいえ、全部の確認を真剣に読む必要はありません。今日の線引きはこれです。
「増える・変わる・消える・外に出る」のうち、『消える』と『外に出る』だけは、自分の目で見る。
よくある3つの誤解
- 「AIって、いつか暴走するんでしょ？」 — Claude Codeの実際の動きは「やることを宣言して、確認を取って、実行して、報告する」の繰り返しで、暴走とは正反対。ファイルを3つ移動するだけでも事前確認と完了報告をしてくる、報告が丁寧すぎるくらいの性格です。本当に心配すべきは「AIの反乱」ではなく「よくわからないまま進んで、よくわからないまま何かが変わっていること」——それは今日の線引きで解決できます。
- 「怖いから、何も触らせないのが一番安全でしょ？」 — 車を買ったのに、事故が怖いからガレージから出さないのと同じです。Claude Codeの価値は「作業してくれること」。読み取り専用で運用していた会社さんが、範囲を決めて任せる運用に切り替えた途端に評価が一変した実例もあります。守りの目的は、止めることではなく、安心してアクセルを踏むことです。
- 「確認がうるさいから、全部自動でOKにしちゃえばいいでしょ？」 — 慣れた頃に出てくる油断側の誤解。確認を減らすこと自体は悪くありませんが、問題は全部を一気に減らすこと。スマホの通知がうるさいからと全部オフにして、家族からの電話まで切ってしまったら困りますよね。どの確認を残すべきかを見分ける目が、今日の本編です。
操作は4種類に分けられる
Claude Codeがパソコンの中でやる操作は、たった4種類です。
| 分類 | 例 | 危険度 |
|---|---|---|
| 増える | 新しいファイル・フォルダを作る | ほぼ安全（気に入らなければ消せば元通り） |
| 変わる | 中身を書き換える・名前を変える・場所を移す | 中くらい（戻せるならOK、戻せないなら慎重に） |
| 消える | 削除する・中身を空にして上書きする | 要注意（完全に消えるタイプは戻せない） |
| 外に出る | メールを送る・ネットに投稿する・外部にデータを送る | 一番要注意（取り消しがきかない上に、相手がいる） |
危険度の物差しは、たった1つ。**「失敗に気づいたとき、元に戻せるか？」**です。
- 「変わる」の注意点: 元の中身を上書きしてしまうと、「変わる」が実質「消える」になります。迷ったら「元の状態には戻せる形でやって」と一言添えれば、安全寄りのやり方を選んでくれます
- 「外に出る」が一番怖い理由: メールの誤送信のように、送った瞬間にこちらの手を離れるから。人間が自分でやっても危ない操作は、AIがやっても危ない。外に出る操作だけは、内容を自分の目で見てから「いいよ」と言う——最終チェックは、あなたの目です
まとめるとこの温度感です: 「増える」はまぁOK。「変わる」は戻せるならOK、戻せないなら慎重に。「消える」と「外に出る」は自分の目で見る。全部を頑張って確認しようとすると流れ作業になるので、頑張りどころをこの2つに絞ります。
安心して任せるための実践3か条（例文つき）
1. 大事なものには、先に貼り紙をしておく
前回のCLAUDE.mdの出番です。守りのルールを書いておけば、毎回の確認で頑張るのではなく、そもそも近づかないでもらえます。
「家族写真」フォルダは触らないで
消す操作をするときは、必ず理由も説明して2. 消える前に、コピーを残しておく
大きめの整理や、たくさんのファイルが動く作業を頼むときは、先にこの一言を添えます。
元のファイルは消さずに、バックアップを取ってから進めてこれで「消える」が「増える＋変わる」に変換され、失敗が「事故」ではなく「やり直し」になります。ズボンの裾上げで、切らずに折り込んで縫っておけばあとで戻せるのと同じ、「戻せるやり方を選んでおく」知恵です。大きい作業の前は「バックアップ取ってから」を枕詞に。
3. 任せる範囲は、少しずつ広げる
最初は全部確認する。「増える」系の確認が何回も問題なかったら、そこは緩める。でも「消える」と「外に出る」は、ずっと自分の目で見る。人間の新人さんへの任せ方と同じで、慣れたら定型業務は任せても、「お金を動かすこと」と「お客さんに出すもの」だけはずっとダブルチェックする、あの感覚です。
「正しく怖がる」と、挑戦できるようになる
なんとなく全部怖い、という状態は実は一番損で、便利さも味わえていないし、リスクも解決していません。確認のたびに恐る恐る選んでいると神経がすり減って、ある日「ええい、全部OK！」となってしまう人も実際にいます。
「消える」と「外に出る」だけ見る。大事な場所には貼り紙。消える前に、コピーを残す。この型を持つと漠然とした怖さがなくなり、いろんなことを安心して任せられるようになります。ブレーキの効きがいい車ほど、安心してスピードが出せる、という感覚です。
この4分類は、AI以外の日常にも使えます。アプリに「連絡先へのアクセスを許可しますか？」と聞かれたとき。スマホの写真をまとめて消すとき。勢いで書いたLINEを送信する直前。「これは4つのどれ？戻せるやつ？」——デジタルの危険は結局「戻せないこと」と「外に出ること」に集約されるので、今日の物差し1本でだいたいの場面を測れます。