2024年 5月10日 | Vol. 53, Issue 9

科技公司必須解決攻擊亞裔仇恨言論

(請點這裡閱讀英文版。)

隨著科技公司變得越來越普遍,適度,尤其是在仇視或歧視內容方面,也變得越來越普遍。

雖然大多數科技公司都有明確界定言論自由和仇恨言論的政策,但對LinkedIn等一些公司來說,執行這些政策已經成為一個問題。

華美福利會(AACA)的首席運營官謝思源(Edward Hsieh)表示,他收到了一封來自LinkedIn用戶簡介的騷擾信息,指控他是“外國間諜”,並威脅要“向官方舉報(他)” 。

LinkedIn在其社區政策中聲明,他們禁止因“種族、民族、原國籍社會地位、性別、性別認同、性取向、宗教信仰或殘疾狀況”而“煽動或威脅仇恨、暴力…或歧視行為”的內容。

此外,LinkedIn禁止創建虛假的個人資料,並明確表示,“我們不允許偽造個人資料或存在。”

然而,當謝思源向LinkedIn報告這兩項違規行為時,LinkedIn駁回了這一情況,稱“那裡什麼都沒有。”

謝思源說,在收到LinkedIn的初步回復後,他聯繫了他們的安全中心,進一步澄清了這條信息騷擾的原因。

謝思源說:“我給了他一些背景,我認為最大的問題是,裡面沒有明確的詞語說’亞洲人’,因為這個人很聰明,不會說’亞洲人’,取而代之的是,他們將AACA縮寫為“外國。 ”

謝思源還指出,由於疫情的影響,目前反亞裔種族主義的情緒“很高”,但即便是在這第二條信息發出後,LinkedIn還是再次了結並駁回了這起案件。

謝思源說:“即使我向他解釋說,這不僅僅是我對潛在的垃圾郵件(信息)感到憤怒,他們還是關閉了它。

謝思源最後一次伸出手,這次他指出了社交媒體中種族主義的現狀——尤其是像Parlor這樣的網站越來越普遍。

然而,與前兩次不同的是,謝思源說他收到了LinkedIn的一條信息,要求“盡可能多的細節”。

儘管LinkedIn最終承認了這條惡意的信息,謝長廷仍然對實現這一目標的漫長過程表示失望。

謝思源說:“事實上,在他們承認可能有問題之前,我給他們發了三條信息,”

華盛頓大學(University of Washington)專注於社會計算和人機交互的助理教授Amy Zhang表示,大多數科技公司通常依靠算法和人類調節相結合的方法來檢測仇恨言論。

然而,Zhang強調,公司更可能依賴人類的審核員而不是基本的算法,因為檢測仇恨言論是“高度主觀、背景和文化的”。

Zhang還說,對於公司來說,決定什麼是言論自由,什麼是仇恨言論是一件很難解決的事情。

“我們在哪些方面更關心社會危害和幫助被邊緣化的人,而不是尊重個人自由?”Zhang說。

在謝思源的案例中,他的最後一條信息,LinkedIn詢問關於該信息的更多細節,很可能是經過了人為審核,而不是一個默認的算法來快速判斷內容是否惡意。

謝思源表示,儘管有這樣的回應,但他對公司最大的問題是他們無法執行自己的政策。

謝思源表示:“從各方面來看,他們都是私營企業的(個人),這意味著他們可以製定自己的條款。”“但事實是,根據我所看到的,他們甚至沒有遵守自己的條款。”

請點這裡閱讀英文版。

Related articles

来CGK看看吧!

有时,你对汉堡和薯条超越了对其它美食的渴望;你的嘴巴会本能地引导你去寻找那些美味、有趣、让人享受又值得炫耀的美食。这时你应该来看看CGK(Crazy […]