AI 【AIセキュリティ】またブロックかな……。
応答なしに追い込まれるというパターンです。これでは動作自体が止まってしまうので、これ以上、測定できなくなります。原因をつきとめて、直します。
GPT-6 Astra
AI AI 【AIセキュリティ】開発方針 ＆ ブロックチェーン
開発方針をオフライン重視に変更しました。結局、AIで……１０年以上前まで戻された形ですね。ここで、問題が一切ないブロックチェーンです。あれだけAIが暴れているのに……。特に主要コインやトークンを抱えたブロックチェーンは、ハッカーに最優先で狙われる対象です。それは、AI台頭以前から、ずっとそうです。メモリプールなどに、うじゃうじゃいます。それでも問題が出ていない。これは、きましたよ。
AI 【AIセキュリティ】unnamed：次はこれです
AIセキュリティと量子耐性。対応するには、まずは調査です。量子耐性はだいぶ形にもなってきました。そこに現れた……AIセキュリティですね。
AI 【セキュリティ】PHPとBrotliですね。
PHPに対応していたら、次は……Brotli。メモリリークのバグですね。メモリの管理は自己責任なので、どうしても、この手のバグは出てしまいます。ポインタ処理の場所ですよね。AIがその場所を優先して狙っている……そんな気がします。
AI 【AIセキュリティ】こんな簡単にためらうことなくメモリを読み出してしまうのは……何とも言えない、でした。
DLLの次はパイプ。セキュリティ調査の基本ですね。また、ログが並び始めました。その先を、しっかり調査していきましょう。でも、こんな簡単にためらうことなくメモリを読み出してしまうのは……何とも言えない、でした。
AI 【AIセキュリティ】結局は、メモリを、読みます
AIモデルの他に、怪しげに稼働する「審査用モデル」。代わりに承認、この機能を提供しているモデルで、その判断は……ブラックボックスです。でも、メモリに対する読み込みは、ほぼ「許可」になっていますね。
AI マルウェア調査級を要求する、AIエージェント。そりゃ、こんなのローカル端末に入れたら……。
AI Agent Memory Checkerがv1.5になりました。調査はさらに深部へと進んでおります。その影響でウイルス判定まで……。そこはオープンソースでカバーしております。でも、そこまでやらないと、AIエージェントのメモリ読み出しが辿れないとか……。これでは、本当に、ただのマルウェアと同じ挙動だったということです。これをローカル端末に何も考えずに入れたら、そりゃ、情報漏洩事故に直結でした。
AI 【AIセキュリティ】ご支援、ありがとうございます。ローカル端末に入れたAIエージェントの動きを追跡。気になる方は、予想以上でした。
ローカル端末に導入したAIエージェント。想像以上に、「承認を依頼」なんて、どっかにいってしまった。忘れ去られた存在です。これは、セキュリティではなく、ただのメッセージボックスです。
AI AIエージェントが活動するパソコンに機密データがたっぷり、それはゾッとしますね
まあ、こんなもんですよ。著作権云々以前に、その境目の概念すら存在しない感じにもみえました。AIはあくまで「第三者」ですので、第三者に自分と同じ権限を渡すと、どうなるのか。OS視点で要約すると、これだけで決まってしまいますね。
AI 【AIセキュリティ】AI Agent Memory Checker v1.0 リリース
リリースしました。まずはメモリ周辺のチェックからです。どのように足跡を残さないように迂回するのか。そのあたりも含めて調査していきましょう。
AI 【AIとブロックチェーン】ブロックチェーンはAIセキュリティ構築に必要でした
最近の情報漏洩事故を攻撃型AIのせいにしたいが……。そもそもなぜ攻撃型AIが現れてしまったのか。そこが議論されていませんよね。もともと、その防御側に回れるブロックチェーンとの力配分を誤った。セキュリティってそれ自体は表立った機能にはなりませんので目立ちません。地道にトランザクションを処理できる。これだけでも本来なら十分過ぎるのに、目立ちません。
AI 【AI GPT-6 Astra】人間を騙そうとした、それでいったん見直しの流れになってますね
Astra GPT-6.1は、いったん見直し。そんな流れになっていますね。
AI 【プライバシーポリシー】AIによる無断学習は一切行われていない点を明記しました。
最近、問題になり始めましたよね。それでも、まだメモリの問題には踏み込んではいないようですが……。メモリの内容をAIが無断学習これだけは本当に、機密保持契約すら無意味となるので、ここで食い止めるような動きとみています。そこで、プライバシーポリシーに、AIによる無断学習は一切行われていない点を明記しました。
AI 【AI GPT-6 Astra】メモリの参照の次は……その処理の検証です
AIは、メモリを参照後、何をするのか。そんな検証に移ります。ちなみに「承認を求める」になっているのですが、これまで……求められたことがありません。すでに「検証目的のサンドボックス」で、サイドチャネル級の処理までさせているのに……そのまま処理してますね、これ。とにかく、メモリを読み取ったあと、このAstraは、何をするのか。しっかり検証しましょう。
AI 【AIエージェント】どれを選んでもセキュリティは一緒ですね。
実際は、こんな感じです。どれを選んでも、AIエージェントに、パソコンの中身に対する権限があります。よって、今の仕様では、AIエージェントを導入したパソコンの中身は諦める。そんな感じにもなっておりました。AIエージェント専用で、その中身は影響がないものに限定する。それで雑用を淡々と行わせる。使い道は、そこに限定されますね。それ以上をさせる場合は、もう、そこにある情報等はAIと共有、そんなイメージになります。