誹謗中傷抑制のためのオウム返しシステム
1. 背景と目的
近年、SNS の誹謗中傷による問題が起こっている。総務省のデータによると、インターネット上の人権侵害に関する事件の発生件数が年々増加していることがわかる。また、誹謗中傷により自殺するケースも増加している。よって、より深刻な問題となっているといえる。
誹謗中傷の主な原因は、①相手の立場になって考えられないこと、②匿名のため誹謗中傷を自覚せず、過剰な発言につながりやすいこと、③日頃の欲求不満やストレスのはけ口となっていることが挙げられる。このような誹謗中傷の投稿を減らすため、AIによる「考え直しませんか？」といった確認メッセージが表示されるSNSもある。しかし、そのメッセージだけでは、相手の気持ちになって（客観的に）考える機会がないため、誹謗中傷を減らすことに対し、根本的な解決にはならないと考える。客観的に見つめる方法の1つに「オウム返し」がある。オウム返しは、アメリカの有名な心理学者であるカール・ロジャーズが提唱した、自分の意思決定が尊重されるカウンセリング技法である。オウム返しによって、「自分が言っている」ということを自覚させ、客観的に自分の発言を見つめ直すことができるのではないかと考えた。
そこで、本研究では、「SNSの誹謗中傷を減らすためのオウム返しシステムの開発」を目的とする。そして、オウム返しシステムによって、投稿しようとする言葉を変える、あるいは投稿しないといった行動変容が生じるかを実験によって検証する。
2. オウム返しシステム
オウム返しシステムの実現には、ROS（Robot Operating System）を使用した。ROSはUbuntu OSなどで動作するロボット開発ミドルウェア（ソフトウェアのようなもの）である．今回使用したのは、Ubuntu 18.04 LTSでROS Melodicである。ROS1（旧ROS）のため、プログラムはPython 2.7で記述した。各種機能を音声認識、音声合成、ウィンドウ表示の3つに分散させ、トピック通信、サービス通信、アクション通信の3つの異なるROSの通信方式を適切に組み合わせることによって、全体のシステムを構築した。オウム返しシステムをFig. 1に示す。
2.1 音声認識
音声認識に、PythonのSpeech Recognitionライブラリを用いた。Googleの音声認識を使用するため、認識精度は高く、日本語や英語などの多言語にも対応している。
2.2 音声合成
音声合成に、OpenJTalk とAlkanaライブラリを用いた。初期の状態では、OpenJTalk は英語に対応していないため、英語がアルファベット読みになるという問題があった。そこで、約5万語の英単語をカタカナに変換するAlkanaというライブラリを用いてカタカナに変換することによって、OpenJTalk でも英語の発音ができるようにした。
2.3 画像合成
画像表示に、OpenCVという画像処理ライブラリを用いた。フルサイズの画像を60%に圧縮し、その画像と吹き出しが描かれた背景画像を合成することによって、合成画像を作成する。これによって、客観的に自分を見つめることができると考える。合成画像の例をFig. 2に示す。
3. 実験
以下のような2つの実験を行った。
実験1： オウム返しなし
実験2： オウム返しあり
パターン1：ポジティブな言葉×表示なし
パターン2：ネガティブな言葉×表示なし
パターン3：ポジティブな言葉×ポジティブな画像
パターン4：ポジティブな言葉×ネガティブな画像
パターン5：ポジティブな言葉×自分自身の画像
パターン6：ネガティブな言葉×ポジティブな画像
パターン7：ネガティブな言葉×ネガティブな画像
パターン8：ネガティブな言葉×自分自身の画像
言葉の影響を測るため、パターン1とパターン2、さらに画像などの影響を測るため、パターン3～パターン8の計8パターンを実験1と実験2それぞれで行った。実験参加者は7人である。画像表示では、7枚の明るい、かわいい、親しみやすいポジティブな画像と7枚の怖い、暗い、親しみにくいネガティブな画像の計14枚の画像をランダムに表示する。メッセージ付きの画像として投稿されることを仮定する。
実験手順は下記の通りである。
- ポジティブな投稿メッセージを考える。例：「良かった！」など
- ネガティブな投稿メッセージを考える。例：「嫌い」など
- 表示された画像を見る。表示なしの場合はスキップ
- メッセージをタイピング入力
- オウム返しありの場合、入力したメッセージをUSBマイクに向かって話す
- オウム返しありの場合、オウム返しされた音声をイヤホンで聞く
4. 実験結果
Google Formのアンケートを実施した。1パターンごとに「システムを利用した後の今後の行動」と「そのように判断した理由」、最後に「投稿したいと感じたパターン」と「投稿したくないパターン」を複数選択するものである。以下、考察する円グラフの結果をFig. 3、Fig. 4、Fig. 5に示す。また、投稿したくないと感じたパターンのアンケート結果をFig. 6に示す。
5. 考察
ネガティブな言葉×ネガティブな画像（パターン7）や自分自身の画像（パターン8）の場合、「インパクトが強い」「ガチ感が出る」「自分が言っている感覚がする」という理由から、投稿したくないという意見が多くみられた。これは、匿名性が失われる分，発言に責任が生じるからだと考えられる。よって、誹謗中傷の抑制に最も効果があるパターンは、ネガティブな言葉×自分自身の画像（パターン8）であるとわかった。
次に、ネガティブな言葉×ポジティブな画像（パターン6）だと、「冗談っぽく聞こえる」「ネタツイートと感じる」という意見がみられた。これは、逆に普段言いにくいことを言いやすくできる可能性があると考えられる。
また、オウム返しあり・なしの比較では、オウム返しの方が「自分自身を客観的にみられた」「自分に煽られている感じがした」という意見があったことから、オウム返しの効果はあるといえる。
6. まとめ
本研究では、SNSの誹謗中傷を減らすためのオウム返しシステムの開発を行った。実験結果より、ネガティブな言葉×自分自身の画像とオウム返しの組み合わせが、最も誹謗中傷の抑制に効果がある（行動変容がみられる）ということがわかった。
今後は、素早さ（すぐに送信できること）と慎重さ（誹謗中傷などのフィルターをかけること）の落としどころや長期的な使用（慣れの防止）を踏まえた上で、誹謗中傷コメントを投稿しようとすると、送信時間が遅延されたり、そのコメント付きの自分自身の画像が表示されたりするなど、さらなるシステムの改良を行いたい。