人工知能はコメント欄を健全化できるか？

これすごいな。メールのSPAM検出の開発並にすごいのでは

http://blogos.com/article/121140/

Yahoo!ニュースのコメント欄は、荒れることが多い。誹謗中傷、特定の国に対する侮辱的な書き込みなど、ドロドロしたネット民のダークサイドに満ちている。
それは欲求不満の発露であったり、匿名であることで理性や良識が外れてしまうからだろう。リアルで面と向かって、同じようなことがいえる人が、どれほどいるのかは疑問だ。
そんなコメント欄を、人工知能で管理できるサービスが登場した。

人工知能で“荒れない”コメント欄--「議論の場」醸成めざしメディアに無料提供 - CNET Japan

人工知能や自然言語処理を活用したサービスを提供するクーロンは7月7日、機械学習や自然言語処理、行動分析にもとづく独自の人工知能を搭載した、読者が健全な議論を交わすための“荒れない”コメントシステム「QuACS（クアックス）」をウェブメディア向けに提供開始した。人工知能を活用したコメントシステムは世界で初めてだという。

（中略）

「単語」ではなく、同一コメント内の前文の内容、他者のコメントへのレス（会話）の流れなど、文章や文脈を判定しているのが特徴。たとえば、麻薬や覚醒剤の購入を促すような違法取り引きに関するコメントは非表示になるが、「麻薬」「覚醒剤」といった単語が文中で適切に使われる場合には表示される可能性が高い。

若者言葉やネットスラングなど、時代によって新たな言葉が生まれたり言葉の使い方が変わったりするが、機械学習により使えば使うほど精度が高まり適切な状態を保てるという。なお、「何かを表現したくてできなかったことは怒りに直結する」（同社代表取締役社長の佐藤由太氏）との考えから、たとえ非表示になったコメントでも、投稿者本人の画面には表示し、あたかも投稿できたかのように見せかける。

学習機能がどれだけ機能するかだね。ネットスラングは次々に生み出されているし、一部を伏せ字にしたりする手法もあるし、たとえ話で連想させたりもする。
ある意味、人工知能とネット民の知恵比べかもしれない。
「QuACS（クアックス）破り」なんてのが、流行ったりして。

“荒れたコメント欄”は、ネットの一面とはいえる。
そこに露出された過激な言葉は、そういう人間が身近にもいるという警告でもある。世の中は、ダークサイドと隣り合わせなのだと。
過激なコメントを書く人が、リアルな日常の会社や学校でも過激な発言や行動をしているとは限らず、善良な市民の仮面を被っている場合もあるだろう。
日常の人格と、ネット上でのもうひとりの人格という二面性……多重人格を顕現させるのが、ネットの特性でもある。

QuACS（クアックス）がどれほど有効かを実験するには、Yahoo!ニュースのコメント欄が最適だと思うよ(^_^)