翻轉直播「腥羶色」印象 平台運用AI技術創造更健康環境

▲▼17LIVE多元社群暨監控部門總監鍾子偉(中)表示,現在直播平台追求的都是「綠色直播」的環境。(圖/M17提供)

▲17LIVE多元社群暨監控部門總監鍾子偉(中)表示,現在直播平台追求的都是「綠色直播」的環境。(圖/M17提供)

記者邱倢芯/台北報導

「直播」、「直播主」過去時常會與色情、博弈等新聞有所連結,讓部分人聽到這些相關名詞時,就有一些不好的既定印象;但事實上,有許多直播平台早已在自家系統中導入人工智慧(AI)技術,加以監控直播主的行為,目的就是要讓直播平台更健康,且老少咸宜。

「其實現在直播平台追求的都是『綠色直播』的環境。」17LIVE多元社群暨監控部門總監鍾子偉指出,早在2015年時,17直播就成立了Skyeye技術團隊,來加以監控直播主們在直播間內的行為。

Skyeye團隊是在2015年10月時成立,約是在17直播平台開創的第三個月左右。鍾子偉指出,17直播成立Skyeye團隊的起心動念,就是因為先前有一個直播主曾做出一些比較不雅的行為,且還躍上了新聞版面;而在當時發生新聞事件後,17直播第一時間就找人去建立了Skyeye團隊。

「一開始的時候大家都不知道怎麼去操作,起初都是用人力監控的方式處理。」鍾子偉笑著說,到了2016年初時,技術團隊才開始研討是否能加入一些AI技術來加以協助,而當時已有一些國外的技術團隊可作參考,因此就引用了一些國外的研究、數據來協助直播間內的監控。

不過,AI一開始的導入也不是那麼地順利。據了解,起初僅導入了相關的AI圖譜,好讓系統可以加以辨識直播主的行為是否越矩;而所謂的圖譜,也僅是以「肉色」來作為判斷依據,只要肉色在畫面當中的比例超過60%,就會在團隊端跳出警示,但是如此的方式很常會出現偵測錯誤的情況。

鍾子偉舉例,像是直播主的臉距離鏡頭太近,有可能會被系統判定肉色超過畫面的60%,而在後端跳出警告;因此技術團隊而後又在系統當中加入了「形狀」的判定,且還會再搭配上人工判定的方式加以協作,以做出更正確行為判定。

而AI監控的也不僅有直播主的行為,也會進一步監控直播間內用戶的留言判定;鍾子偉指出,當用戶在留言時舉凡涉及恐怖、威脅、暴力、噁心等內容,都會被系統判定為違規。

為了打造出「綠色直播」,17直播祭出的相關處罰也相當重;鍾子偉說明,像是露點、露私下部位、性挑逗、性暗示、霸凌、吸毒、自殺等行為,為了不希望造成他人的模仿,這些行為都會被處以最嚴重的處罰,也就是直接被封鎖,且不僅有封鎖帳號,就連直播主原本用來直播的手機等裝置也會被系統端鎖定,無法再使用原有的手機來申請17直播的帳號。

而如果直播主在直播間做出抽煙、喝酒等行為,則是當下會被關播,且會收到系統警告,且如果連續三次犯規,屢勸不聽者會被封鎖帳號。

為了要讓「直播」這件事更大眾化、普遍化,鍾子偉認為,最重要的就是要讓直播平台整體事清新且乾淨的,如此一來才能吸引到更多素人願意加入直播,並讓這些直播主是以「才藝」的方式被外界所看見。

點這裡,留個言吧! FB Weibo

※本文版權所有,非經授權,不得轉載。[ ETtoday著作權聲明 ]

女騎士等紅燈1分鐘極速更衣 「脫剩黑色小可愛」眾人看呆

相關新聞

讀者迴響

熱門新聞

最夯影音

更多

熱門快報

回到最上面