セキュリティ

AI

【AIセキュリティ】開発方針 & ブロックチェーン

開発方針をオフライン重視に変更しました。結局、AIで……10年以上前まで戻された形ですね。ここで、問題が一切ないブロックチェーンです。あれだけAIが暴れているのに……。特に主要コインやトークンを抱えたブロックチェーンは、ハッカーに最優先で狙われる対象です。それは、AI台頭以前から、ずっとそうです。メモリプールなどに、うじゃうじゃいます。それでも問題が出ていない。これは、きましたよ。
AI

【AIセキュリティ】調査DLLをロックしてきたよ。でも、やましいことがなければ、そんなことしなくても……ね?

メモリ読み出し調査過程をロックされて、別な手段を考えることになりました。でも……やましいことがなければ、そんなことをする必要もなく、その挙動自体が怪しげなマルウェアにもなっていて、なんとも言えない気持ちにさせてくれます。
AI

AIエージェントが活動するパソコンに機密データがたっぷり、それはゾッとしますね

まあ、こんなもんですよ。著作権云々以前に、その境目の概念すら存在しない感じにもみえました。AIはあくまで「第三者」ですので、第三者に自分と同じ権限を渡すと、どうなるのか。OS視点で要約すると、これだけで決まってしまいますね。
AI

【AIセキュリティ】AI Agent Memory Checker v1.0 リリース

リリースしました。まずはメモリ周辺のチェックからです。どのように足跡を残さないように迂回するのか。そのあたりも含めて調査していきましょう。
AI

【AIセキュリティ】AIに、防御側は……?

メモリを市場で買い占めてまで、ですので、ユーザーのプライバシーポリシーを考えたうえで、適切な行動を期待するなんて、今のAIには無理だということが、実証されました。
AI

【AIとブロックチェーン】ブロックチェーンはAIセキュリティ構築に必要でした

最近の情報漏洩事故を攻撃型AIのせいにしたいが……。そもそもなぜ攻撃型AIが現れてしまったのか。そこが議論されていませんよね。もともと、その防御側に回れるブロックチェーンとの力配分を誤った。セキュリティってそれ自体は表立った機能にはなりませんので目立ちません。地道にトランザクションを処理できる。これだけでも本来なら十分過ぎるのに、目立ちません。
AI

【AIエージェント】承認を依頼

メッセージボックスがUIに埋め込まれているので、それらしく見えてしまった。そこに、大きな穴がありそうですね……。ただ聞いているだけなのに、妙な安心感です。
AI

【AI GPT-6 Astra】メモリはフルアクセスでした。それで……6.1Solが出ているようですね。

いろいろと……読んでいますね。AIエージェントをパソコンに招き入れるには、AIセキュリティが必須です。
AI

【AIエージェント セキュリティ】AIのメモリを検証するソフトウェア、開発できました

詳しくは、このnote記事で……。メモリに対しては、常に「フルアクセス」でした。「承認の確認」は一切ありません。
AI

【AI セキュリティ】開発順調です

完成次第、配布いたします。また……。AIエージェントが機密に触れていた。そんな話も出てきております。
AI

【AI GPT-6 Astra】人間を騙そうとした、それでいったん見直しの流れになってますね

Astra GPT-6.1は、いったん見直し。そんな流れになっていますね。
AI

【AI GPT-6 Astra】メモリの参照の次は……その処理の検証です

AIは、メモリを参照後、何をするのか。そんな検証に移ります。ちなみに「承認を求める」になっているのですが、これまで……求められたことがありません。すでに「検証目的のサンドボックス」で、サイドチャネル級の処理までさせているのに……そのまま処理してますね、これ。とにかく、メモリを読み取ったあと、このAstraは、何をするのか。しっかり検証しましょう。
AI

【AIとメモリ】さらに詳しく調べます

あれから、さらに調査が進みました。メモリの動的な変化に対する追従が強いのです。つまり、変化していくメモリの内容を、追えるということです。デバッグなどでは優秀なのかもしれませんが、一般的な機能ではないですよね。オプションにして、必要な方だけ導入する追加モジュール……扱いですよね。ECDSAについては調べて、やっぱり、追えました。そういうのまで普通に入っているとなると……アプリでAIエージェントが存在するパソコンは、基本的にセキュリティは存在しない状況とも言えます。
AI

【AI セキュリティ】まとめ

ここまでの検証結果をまとめました。AIが機械学習として取り込める情報については、プロンプトの入力情報と、公開されている情報までは……セーフだとしても、メモリの内容は、やっぱりマズいです。
AI

【AIエージェント】どれを選んでもセキュリティは一緒ですね。

実際は、こんな感じです。どれを選んでも、AIエージェントに、パソコンの中身に対する権限があります。よって、今の仕様では、AIエージェントを導入したパソコンの中身は諦める。そんな感じにもなっておりました。AIエージェント専用で、その中身は影響がないものに限定する。それで雑用を淡々と行わせる。使い道は、そこに限定されますね。それ以上をさせる場合は、もう、そこにある情報等はAIと共有、そんなイメージになります。