信頼と安全

信頼と安全性( T&S ) は、オンライン プラットフォーム、コミュニティ、サービスの文脈でよく使用される用語です。これは、ユーザーがサービスを使用したりオンライン コミュニティに参加したりする際に、信頼して安全に感じることができるようにするためのポリシー、実践、製品、チームを指します。

信頼はインターネットとの日常的な関わりにおいて重要な役割を果たします。主な理由は、個人や顧客がコミュニケーションや商取引においてオンライン技術に大きく依存しているからです。^[1]

^{信頼と安全性[2]}の中心的な目的の1つは、 Webポータルまたはデジタルプラットフォームが、個人のアイデンティティ、データ、仮想資産が保護される信頼できる安全な環境であることを保証することです。  

T&S は、許容される行動規範に関するポリシーやガイドライン、データ侵害や悪意のある活動、有害な活動の監視、インシデントやサイバー犯罪への迅速な対応など、さまざまな対策やツールを実施することで、この目標の達成を支援します。

デジタルプラットフォームの信頼性と安全性^[3]に投資することで、ブランドは安全で信頼できるオンラインの目的地としての地位を確立し、ユーザーとの強固な関係を構築し^[4]、その評判を守ることができます。

信頼と安全性には、次のようなさまざまなサービスが含まれます。

• 暗号化、安全なストレージ、アクセス制御の制限などのデータ セキュリティ対策により、ユーザー データが不正アクセスから保護されます。
• コンテンツモデレーション^[5]サービスには、業界内のユーザーによって作成されたコンテンツをレビューし、ヘイトスピーチ、誤報、^[6]グラフィックやビデオの暴力、その他の非準拠の素材など、不適切なものを削除することが含まれます。
• ファイアウォール、侵入検知・防止システム、VPN、ウイルス対策ソフトウェア、認証ソリューションなどのサイバーセキュリティソリューション^[7]は、ハッキング、データ侵害、その他の悪意のある活動のリスクを排除します。
• リアルタイム監視により、脅威を迅速かつ自動的に検出し、インシデントに迅速に対応できます。
• デジタルウォレット、ブロックチェーン技術、MFAソリューション、デジタル資産管理プラットフォーム、仮想資産回復サービスなどのツールは、デジタル通貨、ゲーム内アイテム、その他のデジタル資産などの仮想資産の保護を可能にします。個人による信頼の認識レベルは、特にデジタルウォレットの文脈において、行動意図と実際の使用との関係を強化する上で重要な役割を果たします。^[8]

信頼と安全分野の企業には次のようなものがあります。

• ActiveFense は、詐欺、有害コンテンツ、誤情報、その他の信頼性と安全性の問題を検出するためのエンドツーエンドの AI 搭載ソリューションを提供していると主張しています。
• Besedo は、「より優れたコンテンツ モデレーションのための完全かつスケーラブルなソリューション」を提供すると述べています。
• Checkstep は、テキストと画像をスキャンして、すぐに削除するか、人間によるモデレーションに送るか、公開を承認するかのいずれかを行うコンテンツ モデレーション システムを構築しました。同社は、「コーディングは不要」で「即時に統合できる」と主張しています。
• Cinderは、Facebookで出会ったグレン・ワイズとフィル・ブレナンによって2021年に設立されました。Cinderは2022年に1,400万ドルの資金調達を完了しました。^[9]
• Cove は、信頼性と安全性のツール スイートを提供します。
• 一般的な AI サービスを提供する企業である Genpact は、信頼性と安全性に関する製品を提供しています。
• Hive は、年齢確認のために有害なテキストや音声コンテンツを識別し、AI で生成された画像やテキストを識別し、ロゴを検出し、さらには企業がコンテキスト依存の広告を掲載するのを支援する AI モデルを提供します。
• Google 内の信頼性と安全性の研究グループであるJigsaw 。
• Pasabiは、偽のアカウントを作成したり、偽のレビューを残したり、偽造品を販売しようとしたり、その他の詐欺行為に参加したりする行為者を含む「プラットフォーム上の悪質な行為者を大規模に検出できる」と主張している。
• デジタルID検証会社、Pipl。
• 2011 年に設立された不正検出会社である Sift は、信頼性と安全性を提供する老舗企業の 1 つです。現在、同社はさまざまな業界およびアプリケーション固有の不正検出アプローチを提供しており、多くの有名な e コマース企業が顧客となっています。
• Tremau は、信頼性と安全性の運用のためのモデレーション プラットフォームを構築しました。
• TrustLab には誤情報を検出するための AI システムがあります。
• AI ベースの仮想モデレーション エージェントを提供する Unitary。
• コンテンツ モデレーション サービスを提供する WebPurify。

• サイバー倫理