百度副総裁陳洋：文心大モデル駆動によるセキュリティビジネス再構築加速

孤独的野鸭菇 · 发表于 2023-12-27 20:36:02

このほど、「雲融未来、安全内在」第7回雲安全連盟大中華区大会（CSA GCR Congress）が深センで開催された。百度の陳洋副総裁は大会に出席し、「安全大モデル」＋「大モデル安全」をめぐって基調講演を行った。陳洋氏によると、大モデルは産業の高度化と経済成長を加速させると同時に、サイバーセキュリティ業界に新たなチャンスと挑戦をもたらした。大モデルに基づいて、スマートマンマシン協同により安全な業務プロセス全体を再構築することができ、大モデルは「生産力ツール」に進化することができる。
人工知能は新しい科学技術革命と産業変革の重要な駆動力であり、大モデルの台頭により、人工知能応用の深さと広さがさらに広がる。百度が3月に発表した知識強化大言語モデル文心一言から現在まで、文心一言の基礎モデルは文心大モデル4.0バージョンに反復され、理解、生成、論理、記憶の4つの基礎能力の上で顕著に向上した。会議では、陳洋氏は文心大モデルの安全分野への応用を分かち合い、安全運営、コンテンツ審査、APPプライバシーコンプライアンス検査、業務風制御などの多分野のAIネイティブ応用の構想と実践を構築し、安全効率と能力の大幅な向上を支援した。
陳洋氏は、業界のAIネイティブセキュリティ応用研究開発の効率をどのように高めるかも重要だと述べた。現在、百度がリードするAI大モデルプラットフォームに基づいて、百度は安全に百度AI安全基盤を構築し、安全知識と技能強化の大モデルと全シーンの知能体に基づいて、各種類の安全業務シーンに対して、低コードの方式で人間機協同安全ワークフローを実現し、さらにAI原生安全サービス層を通じて、各種類の安全応用にAI原生化学再構築を行うことができるようにした。
一方、大モデル自身の安全、信頼性、制御可能性は極めて重要になり、ネットワークとシステム安全、モデルアルゴリズム安全、データ安全とプライバシー保護、コンテンツ安全は大モデルの全ライフサイクルでループし、システム安全と内生安全は長期的に共存する。
人工知能リーダー企業として、百度は大モデルの安全リスク防止の能力建設と生態建設を非常に重視している。百度大模型安全実践経験に基づいて、百度安全は大模型全ライフサイクルの視点からサービス提供側の視点からの対応構想をまとめ、方案は大模型訓練/精調/推論、大模型配置、大模型業務運営などの重要な段階をカバーし、全プロセスのデータ安全とプライバシー保護、模型保護、内容安全、業務運営風制御を含む安全製品とサービスを提供し、同時に、攻撃的な守備促進の考え方を結合してAIGCコンテンツの安全評価能力を構築し、大モデルに対して定例化された安全評価を実現し、企業の安定した健康で信頼性の高い大モデルサービスの構築を支援する。
例えば、大モデルの運営段階において、百度安全は赤線知識ベース/赤線大モデル、propt審査と書き換え、多モードコンテンツ審査、コンテンツ安全評価などを含む一連の安全サービスを構築した。違法犯罪、不良価値観などの負の側面とハイリスクなレッドライン問題に対して、重点的に「レッドライン知識ベースとレッドライン大モデル」を構築し、安全な回答内容を提供して代答し、ユーザーに対して前向きな誘導を行うことができる。Promptインジェクション攻撃に対しては、初期コマンドとデータをそのままにした上で、Promptを書き換えることで大きなモデルに安全なコンテンツを出力させることができます。
聞くところによると、クラウドセキュリティ連盟CSAグローバル会員部門として、百度は長期にわたり、より安全なAI護衛産業の発展に力を入れ、スマートクラウドコンピューティングの最先端技術の探索と実践を積極的に配置し、「人工知能+クラウドセキュリティ」の融合革新を持続的に深化させてきた。会議に参加し、北京人工知能産業連盟人工知能安全専門委員会の主任として、陳洋代表専門委員会はCSAクラウド安全連盟と正式な戦略契約を結んだ。将来、双方はそれぞれの優位性を発揮し、人工知能分野で共同研究、共同最先端技術と応用分野の発展を展開する。
現在の「大モデル+安全」が直面している新しい情勢、新しいチャンス、新しい挑戦に直面して、百度安全は人工知能技術のネットワーク安全分野における技術革新と応用を絶えず開拓する一方で、各界と協力を維持し、大モデル安全防御線を共に構築し、より安全な大モデルの賦能千行百業の無限の可能性を探求する。

		自动登录	找回密码
密码			立即注册

百度副総裁陳洋：文心大モデル駆動によるセキュリティビジネス再構築加速

相关帖子