AIメモツールは簡単な会議まとめを約束するが、その利用には疑問も

AIメモツールは、バーチャル会議のメモ作成と要約を簡単に行うと約束するが、その仕組みには懸念がある。これらのツールは、音声認識と大規模言語モデルを使用して会話を記録、文字起こし、要約する。しかし、会議での発言すべてをデータ化し、機密の人事情報、企業戦略、営業秘密、さらには後に自白とみなされる可能性のある発言までもが、誤った手に渡るリスクがある。

人事トレーニング・認証プロバイダーHRCIのCEO、エイミー・デュフレーン氏は「AIメモツールは組織に大きなリスクをもたらす。企業はまったく使用すべきではない」と述べる。プライバシー活動家は、AIメモツールの背後にある企業が同意なしにボイスプリントを作成していることを懸念する。ボイスプリントは指紋に似た生体認証プロファイルであり、個人の声の特徴に基づいており、銀行口座の内容などの機密情報にアクセスするために悪用される可能性がある。

さらに、一部のテクノロジー企業は、作成したメモツールからデータを再販売したり、機密の会議記録や録音をAIモデルのトレーニングに使用したりしている。弁護士とクライアント間の会話が法的手続きの対象となるリスクもある。今年2月、ニューヨークの連邦判事は、刑事被告が弁護士のために作成した文書を検察に提出するよう命じた。その文書はすでに第三者（AnthropicのClaude）と共有されていたからだ。アトランタの企業弁護士ジャスティン・ダニエルズ氏は「AIメモツールを使う人々は、データがどこに行くのか必ずしも知らない。データが他の場所に送られ、ユーザーが気づかない場合、弁護士-クライアント秘匿特権が失われる可能性がある」と指摘する。

ではどう対処すべきか？まず、会議に参加する際にAIメモツールが存在するか確認する習慣をつける。AIメモツールは参加者として表示されたり、録画中を知らせるポップアップで認識できる。ZoomやGoogle Meetなどのプラットフォームは録音を知らせるが、一部のソフトウェアは明確でない。電子フロンティア財団のトーリン・クロソウスキー氏は「機密性の高い会議の前に全員の同意を得ることが最も丁寧なアプローチだ」と述べる。わからない場合は直接尋ねるか、最初に会議の録音を許可しないと宣言することもできる。デュフレーン氏は「当社のポリシーではこの会議の録音は許可されていません」と言うのが丁寧な方法だと提案する。これにより、営業担当者などが「悪者」になるのを避け、会社に責任を負わせることができる。別の方法として、会議の一部ではメモツールを許可し、デリケートな話題に移る前にオフにすることもできる。

ボイスプリントに関して、ミシガン州イーストランシングのディロン法律事務所のクリス・プルイマーズ氏は、多くのAIメモツールが各話者に対して独自の音響シグネチャを作成すると説明する。これにより企業は話者を区別している。もし悪意のある者がボイスプリントを入手すれば、本人確認を突破して詐欺やアカウント乗っ取りに利用できる可能性がある。イリノイ州の生体認証情報プライバシー法は、ボイスプリントを生体認証識別子とみなし、収集前に書面による通知と同意を義務付けている。また、データ保存期間と廃棄ポリシーも要求される。プルイマーズ氏は、従業員はAIメモツールがいる会議への参加を拒否し、データ保存の場所と理由、削除時期の保証を求めることができると述べる。

フィッシャー・フィリップスの弁護士ダニエル・ケイズ氏は、AIメモアプリを使用する際、企業が録音や文字起こしを無期限に保持したり、AIモデルのトレーニングに使用したりしていないか確認するよう勧める。コンテンツが削除されても、会議に関するメタデータがベンダーに残る可能性があり、機密情報がモデルの動作に影響を与え、場合によっては記憶されたり再生されたりするリスクがある。電子フロンティア財団によると、AIメモツールはテキストを生成するため、ビデオや音声ファイルよりも検索が容易で、リスクが高まる。