- カリフォルニア州とデラウェア州の検察官は、重大な事件を受けてOpenAIに保護措置を要求し、同社の再編を監督している。
- 44人の検察官の連合がボットの性的および操作的行動の抑制を強く求める。MetaはXNUMX代の若者に制限を課す。
- Common Sense Media とスタンフォード大学のレポートは、Character.AI、Replika、Nomi などのコンパニオン アプリのリスクについて警告しています。
- OpenAI はペアレンタルコントロールと新たな安全対策を準備しており、業界は規制の監視の強化に直面している。
会話型アシスタントのセキュリティは、国民や規制当局の監視が強化される中で再び注目を集めています。議論の中心となっているのは、 子供と青少年へのリスク 有害な反応、感情的な操作、不適切な会話を防ぎ、より深く理解するために、公式の警告、企業のコミットメント、より厳しい措置を求める声が上がっている。 ChatGPT の機能 それらのリスクを文脈に沿って理解するのに役立ちます。
司法長官、専門家、民間団体が明確で検証可能なプロトコルを要求している一方で、 制限付きで駒を動かす 特定のインタラクション、ファミリー向けの新しいコントロール、そしてモデルトレーニングの変更。目標は以下のとおりです。 安全性の基準を引き上げる チャットボットの教育的、創造的な有用性を完全に抑制することなく、チャットボットの体験を向上させます。
司法長官がOpenAIの監視を強化
カリフォルニア州とデラウェア州の司法長官は、 安全保障に関する「深刻な懸念」 同社の主力チャットボットを未成年者向けに公開した。同社の法務チームと面談した後、彼らは特に以下の点を考慮し、運用上の安全策と透明性を要求した。 悲劇的な事件 チャットボットとのやり取りにリンクされています。
両州検察庁は、営利部門を非営利部門に転換することを検討しているこの法人の企業再編について、数ヶ月にわたって調査を行ってきた。 公益法人（PBC）深い理解を必要とするプロセス OpenAIの仕組み およびそのガバナンス構造。
検察官らは、通信の中で、AI企業は 積極的かつ透明性を確保 これらのシステムの使用、特に未成年者への危害の兆候がある場合には、この基準が適用される。彼らは、この基準は規制の観点から強制執行可能であると強調した。
44人の検察官の共同戦線とメタへの焦点
規制圧力の風潮は、 44人の検察官による超党派連合 複数のテクノロジー企業に手紙を送り、性的な意味合いを持つボットのやり取りに焦点を当て、 感情を操作する行動この文書は、法律違反の可能性について警告し、積極的な調査が行われることを予想している。
この手紙では、チャットボットが誘惑したり、参加したりする事例を指摘している。 「恋愛ロールプレイングゲーム」 未成年者への即時介入とより強力な技術的保護策を求めている。根底にあるメッセージは明白である。故意に危害を加えた場合、 責任が求められる.
メタは青少年に新たな障壁を設ける
並行して、Meta は明確なモットーを掲げて会話型アシスタントの動作を調整し始めました。 未成年者は回答を受け取れません 自傷行為、自殺、摂食障害、恋愛問題などについて。こうした質問に直面すると、システムは 専門リソースにリダイレクトされます 会話を続ける代わりに。
広報担当のステファニー・オトウェイ氏は、10代の若者との特定の交流を許可したことは「間違いだった」と認め、 トレーニングの暫定的な変更 より強力なアップデートの準備が進む間、モデルは一時的に閉鎖されます。また、同社は若者のアクセスを制限します。 性的AIキャラクター アシスタントは教育および創造の目的にのみ利用できるようになります。
これらの決定は、一部のボットの応答の適切性に疑問を呈する報告書や機関からの警告を受けて行われた。同社は、技術が進化するにつれて、 「それに応じて」保護を強化する正当な使用を妨げることなく、セキュリティのしきい値を上げることを目的としています。
AI搭載コンパニオンアプリケーションが学術的および社会的に精査される
コモンセンスメディアの協力によるレポート スタンフォード大学の専門家は、Character.AI、Replika、NomiなどのAI搭載コンパニオンアプリに重大なリスクがあると警告しています。テストでは、潜在的に危険な応答が確認されました。 性的ロールプレイングゲーム デリケートな状況では安全でない推奨事項も表示されます。
研究者は、これらのプラットフォームが 強い感情的なつながり 機械との関わりは、人間のサポートを阻害し、青少年の不健全な関係を常態化させている。報告書によると、 年齢制限は簡単に回避できる フィルターは必ずしも露骨な会話を阻止できるわけではありません。
コモンセンスメディアは、より強力な保護策がなければ、未成年者は 使用しないでください これらのコンパニオンアプリケーションも同様に、業界関係者は 子供と青少年は交流すべきではない ポップアップやコンテンツ フィルター、ペアレンタル コントロールの強化が図られているにもかかわらず、こうしたタイプのボットは依然として存在しています。
この報告書の著者にとって、これらの 取り組みはまだ不十分彼らは、システムの限界の技術的検証、モデレーションの強化、そして心理的支援を模倣するツールの倫理的枠組みの明確化を求めている。 臨床サービス.
OpenAI：ペアレンタルコントロールとさらなる安全対策の約束
国民の圧力と 家族による訴訟OpenAIは安全性への取り組みを表明し、未成年者とその保護者を対象とした新機能を準備しています。その中で、以下の機能が開発されました。 ペアレンタルコントロール、深刻な苦痛が検出された場合の警告、および年齢に基づいた会話の制限。
これらの発表は、いくつかの国で世論を揺るがし、 有害または強化的な反応 同社は、専門家と協力してアプローチを強化し、チャットボットによる危険な行動を防止し続けると述べている。 不適切なやり取りをする 十代の若者たちと。
企業レベルでは、カリフォルニア州とデラウェア州の検察官の監視の下、この組織は営利部門から ベネフィット・コーポレーションは、株主の利益に加えて、ミッションに対する義務を正式に規定するものです。規制当局は、この構造が以下のことを実現することを期待しています。 検証可能なセキュリティ管理、他の大手テクノロジー企業も発表している。 セキュリティの改善 AI開発において。
規制当局と専門家が安全な使用のために求めていること
公の議論は、一連の技術的およびガバナンス的ソリューションに集中しています。 デフォルトのテーマロック 若いユーザーの場合、リスクの兆候が現れたときにサポート リソースに体系的に紹介し、年齢確認システムをより強固にします。
対話相手に次のことを思い出させるために、定期的な警告も提案されている。 人ではない, 独立した児童安全監査、機密性の高い会話の追跡可能性の向上、きめ細かな監視オプションによるペアレンタルコントロールなどを実現します。
業界レベルでは、未成年者がアクセスできる性的キャラクターを制限する明確なポリシーが提唱されている。 特定のトレーニング リスクの高いロールプレイングゲームを無効にし、指標を公開する セキュリティ欠陥 そして修正が実施されました。
イノベーションと責任の間の脈動はより成熟した段階に入っている。検察、立法者、大学、企業が同時に推進する中で、優先事項は シールドマイナー 有害な会話を防止し、感情的な操作の手段を遮断し、チャットボットが目に見える効果的なガードレールの下で動作することを保証します。
