あおゆず｜AI×2児のパパ 育児の面白ネタ・可愛い日常エピソード大好物 AI活用やパパママ＆個人開発を応援中！ 非エンジニアでも安全にAIを使えるガバナンス構造を構築し日々改善中。 学習アプリを自作して子供に試用中 noteも時々やってます。
Joined January 2026
- Tweets5.7K
- Following2.5K
- Followers2.3K
- Likes16.8K
自分の主観でしかないんだけど
ハーネスエンジニアリングと言ってもその中にも大きく分けて２つのハーネスがあって。
一つはAIの作業に対して決まった順序、やり方を制御する「ワークフローハーネス」
もう一つはAIが作業の過程で、許可された範囲から逸脱したり、ファイル消し、勝手な外部送信といった危険な行動を制御する「ガバナンスハーネス」
どちらも感覚的な造語なんだけど、自分みたいな非エンジニアが仕事でClaude CodeみたいなAIを用いるなら、どちらも必要だけど特に後者が重要だと思ってる。
公式でもサンドボックスと権限設定があるわけだし、なぜデフォルトがオフなのかはここでは割愛するけど。
特に昨今じゃAIでリサーチを多用したりすると、どこにプロンプトインジェクションが落ちてるかわからないし、「見るだけだから安全です」とAIに言われてもその後のダウンロードファイルに紛れてる事例もあるわけだから絶対大丈夫とは言い切れないわけで...
実際に自分が組んでるガバナンス用のハーネスもまだ土台の段階でここにAI特有のセキュリティを乗せていってるわけなんだが実際に効果的なのかは攻められたこともないのでただの自己満足なのかもしれない。
それでも！無いよりはマシ！多分！
と、思いながら今日もせっせと地味なものを組み上げ中！
今シーズンのゴルフ無事終了！
途中、まさかの吹雪でグリーン真っ白になったのはビックリ❗️
47-48でひとまず100は切れたから良かった‼️
そして自分程度のレベルだと練習しない方がスコアがいいというゴルフあるある...
守る仕組み、なんだかんだで結構時間かかる。
結局ガッチガチに固めたあとでどこまで緩めるのがいいのかが難しいのと、定期更新ができないと意味が無いから定期レビューもできるようにしないと・・・
あとAIへの攻撃ってプロンプトインジェクション以外にもあるんだろうか？
う〜む未知だ・・・
新規入会特典やお試し期間を設けている企業が解約で個人情報すぐ削除しちゃうと、特典の悪用に繋がるのは明白だから一定期間は残さざるを得ないんだろうなぁ。
完全に残さないってなるとこっち側も特典の恩恵が消えてしまうわけで難しいところだろうねぇ...
ちゃんと情報を分けて管理できてればOKなのかもようわからんし。
あおゆず｜AI✖️2児のパパ retweeted
おはようございます🌞
先日公開した録音機能ですが、早くも300件を超えるお子さまの音声を録音していただき、再生数も600回を超えました🎤
たくさんの思い出を残していただけて嬉しいです✨子どもの可愛い声って、聞くだけで思わず笑顔になってしまいますよね☺️
木曜日も自分のペースでやっていきましょう〜🐥
✧ 今日できたことが今日のベスト ✧
