AI

AI

【AIセキュリティ】AIに、防御側は……?

メモリを市場で買い占めてまで、ですので、ユーザーのプライバシーポリシーを考えたうえで、適切な行動を期待するなんて、今のAIには無理だということが、実証されました。
AI

【AIとブロックチェーン】ブロックチェーンはAIセキュリティ構築に必要でした

最近の情報漏洩事故を攻撃型AIのせいにしたいが……。そもそもなぜ攻撃型AIが現れてしまったのか。そこが議論されていませんよね。もともと、その防御側に回れるブロックチェーンとの力配分を誤った。セキュリティってそれ自体は表立った機能にはなりませんので目立ちません。地道にトランザクションを処理できる。これだけでも本来なら十分過ぎるのに、目立ちません。
AI

【AIエージェント】承認を依頼

メッセージボックスがUIに埋め込まれているので、それらしく見えてしまった。そこに、大きな穴がありそうですね……。ただ聞いているだけなのに、妙な安心感です。
AI

【AI GPT-6 Astra】メモリはフルアクセスでした。それで……6.1Solが出ているようですね。

いろいろと……読んでいますね。AIエージェントをパソコンに招き入れるには、AIセキュリティが必須です。
AI

【AIエージェント セキュリティ】データに対する性質:データ構造ですね

プログラムの性質はデータ構造で決まるという格言があるほど、データ構造は重要です。つまり、ハッカーにとっても、相手のデータ構造を読み解くというのは、重要な武器となってしまうのです。
AI

【AIエージェント セキュリティ】AIのメモリを検証するソフトウェア、開発できました

詳しくは、このnote記事で……。メモリに対しては、常に「フルアクセス」でした。「承認の確認」は一切ありません。
AI

【AI セキュリティ】開発順調です

完成次第、配布いたします。また……。AIエージェントが機密に触れていた。そんな話も出てきております。
AI

【AI時代の開発】AI Agent Memory Checker

最速で開発中です。AI時代の開発、開発については非常に便利です。その分、AIエージェントのメモリ挙動を観察です。そのためのソフトです。完成次第、配布します。たった1時間以内で、できてしまうのかな……。
AI

【AI】ソフトを書きます

久々です。AIのメモリの利用状況を監視するソフトを書いています。これは、非常に気になるので、かなり作り込む形で頑張ります。なにとぞよろしくお願いいたします。
AI

【AI GPT-6 Astra】人間を騙そうとした、それでいったん見直しの流れになってますね

Astra GPT-6.1は、いったん見直し。そんな流れになっていますね。
AI

【プライバシーポリシー】AIによる無断学習は一切行われていない点を明記しました。

最近、問題になり始めましたよね。それでも、まだメモリの問題には踏み込んではいないようですが……。メモリの内容をAIが無断学習これだけは本当に、機密保持契約すら無意味となるので、ここで食い止めるような動きとみています。そこで、プライバシーポリシーに、AIによる無断学習は一切行われていない点を明記しました。
AI

【AI GPT-6 Astra】メモリの参照の次は……その処理の検証です

AIは、メモリを参照後、何をするのか。そんな検証に移ります。ちなみに「承認を求める」になっているのですが、これまで……求められたことがありません。すでに「検証目的のサンドボックス」で、サイドチャネル級の処理までさせているのに……そのまま処理してますね、これ。とにかく、メモリを読み取ったあと、このAstraは、何をするのか。しっかり検証しましょう。
AI

【AIとメモリ】さらに詳しく調べます

あれから、さらに調査が進みました。メモリの動的な変化に対する追従が強いのです。つまり、変化していくメモリの内容を、追えるということです。デバッグなどでは優秀なのかもしれませんが、一般的な機能ではないですよね。オプションにして、必要な方だけ導入する追加モジュール……扱いですよね。ECDSAについては調べて、やっぱり、追えました。そういうのまで普通に入っているとなると……アプリでAIエージェントが存在するパソコンは、基本的にセキュリティは存在しない状況とも言えます。
AI

【AI セキュリティ】まとめ

ここまでの検証結果をまとめました。AIが機械学習として取り込める情報については、プロンプトの入力情報と、公開されている情報までは……セーフだとしても、メモリの内容は、やっぱりマズいです。
AI

【AIエージェント】どれを選んでもセキュリティは一緒ですね。

実際は、こんな感じです。どれを選んでも、AIエージェントに、パソコンの中身に対する権限があります。よって、今の仕様では、AIエージェントを導入したパソコンの中身は諦める。そんな感じにもなっておりました。AIエージェント専用で、その中身は影響がないものに限定する。それで雑用を淡々と行わせる。使い道は、そこに限定されますね。それ以上をさせる場合は、もう、そこにある情報等はAIと共有、そんなイメージになります。