布萊恩的創業小窩

然而為何 人工智慧 臉部辨識會有這些隱憂?這篇解釋給你聽!   為什麼 人工智慧 不擅長辨識黑人女性？ ▲ 科學期刊《自然》所刊之專文指出，被偏倚資料組訓練出來的演算法，通常僅會將左圖辨識成「新娘」。(圖片來自：Left：iStock/Getty；Right：Prakash Singh/AFP/Getty) 那究竟為什麼 AI 不擅長辨識黑人與女性呢？讓我們從波拉維尼的故事說起： 在 MIT 實驗室的某日，波拉維尼用自己的臉部照片測試了微軟、IBM 等公司的臉部辨識 服務，卻發現這些將自己宣稱的多先進的服務，有的將她誤認為男性、有的對她的照片沒有反應，根本辨識不出東西，錯誤率高得令她吃驚。 一直到她戴上白人面具，AI 彷彿恢復正常般，又可以辨識了。難道是她的臉部長相太特別、剛好是 AI 辨識不出來的特例？還是……這些辨識服務本身就有漏洞？ 於是，波拉維尼決定進行更廣泛的測試。她輸入了超過 1000 張照片，包括不同種族、不同性別。結果發現一個明顯的趨勢：膚色愈白，辨識正確率就越高；另一方面男性的正確率遠比女性高。讓她明白為何臉部辨識幾乎無法認出她——因為她是一位具有「雙重弱勢」黑人女性，她這類人的辨識正確度，遠遠低於白人男性。 真相其實很簡單，歸根究柢就是因為在訓練演算法時，開發團隊沒有提供多元的種族和性別資料給 AI 所導致。換句話說，AI 在「成長過程」中，認知到的世界就多由白人、男性所構成。 即使並沒有人刻意將 人工智慧 訓練成這樣，但它可能引發的後續問題，或許比存有種族偏見的街頭警察更加嚴重……   還沒有完善就直接上陣的演算法 這個問題多花點時間就可以修正，只要提供多元組成的資料給 AI 即可，但這些科技公司依然選擇讓不完全的臉部辨識服務上線。 而臉部辨識服務也不是唯一一個，將存有偏見疑慮的 人工智慧 服務投入實用的案例： 2018 年紐西蘭移民署（Immigration New Zealand）實行一項實驗計畫（pilot programme），藉由國家簽證申請程序蒐集移民的年齡、性別、種族、犯罪紀錄、醫療費用欠繳紀錄等等資料，預測這些居留者如果續留，有無犯罪的可能或是否帶來更多醫療支出。一旦 AI 認為，某些移民有治安或醫療方面的疑慮，他們將無法重新申請簽證，甚至會直...

你有去了解過 人工智慧 的臉部辨識嗎?今天讓我們一起探討它目前的隱憂!   為了 人工智慧 辨識，你願意戴「白面具」嗎？臉部辨識的隱憂 人工智慧 臉部辨識技術越加成熟，能辨別出「你是誰」已經是基本款中的基本款了！越來越多 AI 辨識技術宣稱可以「從臉孔辨識出智商、性取向、政治傾向甚至是犯罪可能」。 看上去功能如此強大的 AI，卻遭披露「其實只擅長辨認白人」，讓臉部辨識的隱憂浮出水面。 AI 臉部辨識技術已被廣泛使用，也實際應用於執法：根據紀錄，從 2011 年起美國聯邦調查局（FBI）偵辦案件時就開始使用臉部辨識技術，至今累計了超過 39 萬次的臉部辨識搜索紀錄，是近年美國執法部門應用成長速度最快的系統工具。 但隨之而來的是被大力敲響的警鐘：一位麻省理工媒體實驗室的資料科學家喬伊‧波拉維尼（Joy Buolamwini）指出，臉部辨識技術其實十分容易誤認有色人種。 只擅辨識「中年白人男性」的 人工智慧 ▲ (圖片來自：圖片來自：AP Photo/Steven Senne) AI 臉部辨識技術已經成熟了嗎？或許真的該打上個大問號。 來自 MIT 實驗室的迦納裔資料科學家喬伊‧波拉維尼表示，根據她於 2018 到 2019 年間做的兩項研究，證實眾多科技公司開發的 AI 都無法如辨識白人男性臉孔般、準確的辨識出膚色較深的女性臉孔。 其中，尤以 IBM 系統失誤率最高，竟高達 34 ％；而亞馬遜的 Rekognition 會將 19 ％的女性誤認為男性，若分析對象為膚色較深的女性，誤判機會更是高達 31 ％，同時該系統在分析膚色較白的人種時，錯誤率幾乎為零。 波拉維尼發現，這些由科技巨頭如微軟、亞馬遜與 IBM 等公司研發出的臉部辨識 AI 演算法，對於判讀白人、黑人與女性竟然出現了差別待遇：「判讀白人的正確度比較高，判讀黑人與女性的正確性則較低。」 推薦閱讀： 微軟AI新聞編輯才上線就出包！錯置有色人種配圖，女歌星森77     延伸閱讀： 想入門程式設計課程,該選Python還是Java?(下) 這半年的Java課程,讓你和科技的日新月異直接搭上線! 謝謝工程師的人工智慧貓窩,讓貓貓們在冬天有個避風港~(下) 愛沙尼亞即將任用 AI 法官！人工智慧走...

所以關於 人工智慧 是否能成為稱職的新聞編輯,你心裡有答案了嗎? 人工智慧臉部辨識 不易分辨有色人種 ▲ 被亞馬遜「Rekognition」 臉部辨識系統錯認的 28 位國會議員 其實 人工智慧 在辨識有色人種時，似乎常常犯錯。 如 2018 年，美國公民自由聯盟（American Civil Liberties Union，ACLU）就對亞馬遜提供的「Rekognition」 付費臉部辨識服務做了一項測試。 ACLU 蒐集了 25000 張嫌犯照片做為臉部辨識的資料庫，並使用預設的設定，讓 Rekognition 逐張比對國會議員和資料庫裡的嫌犯照片。結果，最後有 28 名國會議員被誤判，且在誤判的議員中，竟有高達 40% 的議員是有色人種 ── 即便有色人種在全部的國會議員中只占了兩成。 ▲眾議員 Sanford Bishop（D-Ga.）被 Amazon Rekognition 臉部辨識系統錯認為罪犯 然而，「Rekognition」 臉部辨識系統也被美國警方使用。這是否會在不知不覺中侵犯到有色人種的權益？目前亞馬遜已因此問題，暫停提供這套系統給美國政府使用。 現有的臉部辨識技術，在分辨有色人種特別容易出錯，也許是以下原因導致： AI資料庫的白人照片比較多 美國喬治城大學法律中心（Georgetown Law School Center）的隱私與科技領域資深助理 Clare Garvie 表示，原因可能是出在工程師建立 AI  人工智慧 的臉部辨識資料庫時，提供的白人照片比有色人種多而導致。 開發工程師以白人居多 一個研究顯示：人們在辨識另一種族的人員時，準確度會低於辨識與自己相同種族的成員。 而大部分 IT 產業的工程師以白人男性居多，他們開發出的臉部辨識系統在辨識有色人種的準確度時，無形中也比白人還差 ── 即使他們無意為之。 其時除了臉部辨識的問題，使用 人工智慧 來取代真人撰寫、改編新聞，本來就爭議連連： 過去英國《衛報》曾將一則關於英國脫歐的新聞中，第一段中的一些句子餵給 人工智慧 ，結果 AI 馬上產生「可信度高」的假新聞與文章 ── 文中的人名 (如政壇人物的名字)、地名與所提到的片段事件皆為真實存在，...

人工智慧 也開始被用在編輯新聞上了,但效果如何?用這兩篇揭發! 微軟用人工智慧編輯新聞！全球近百名員工飯碗不保？ 日前微軟公司宣布：要讓 AI 人工智慧 取代旗下近百位「真人」新聞記者與編輯，來為微軟新聞、MSN.com 等管道，挑選、編輯新聞。根據 Business Insider 報導，美國有約 59 人遭裁撤；衛報也則提到英國也有約 27 人遭裁，還有其他國家地區的辦公室，也有許多員工面臨飯碗不保的窘境。 沒想到這個 AI 人工智慧 才上線一個月就出包，還牽扯到近期非常敏感的種族議題，引發人們對 人工智慧 的編輯新聞能力、整體臉部辨識科技的疑慮。 ▲ 普林斯敦大學的研究團隊結合 人工智慧 新聞編輯混淆了英國兩位有色人種歌手：Leigh-Anne Pinnock（左）和 Jade Thirlwall（右）。 推薦閱讀： AI寫作能力強過人類，恐成為假新聞製造機?   人工智慧錯置新聞配圖 女歌手指名「請加油吧」 根據英國《衛報》指出，微軟旗下的 MSN 新聞網站，近日轉載了英國《獨立報》有關英國流行女團 Little Mix（混合甜心）的報導，內容是關於其中一位成員 Jade Thirlwall 過去在學校中遭受種族歧視的心路歷程。 雖然這是一篇單純的採訪報導，但經過微軟的 AI 人工智慧 編輯轉載後，沒想到，新聞配圖竟然不是採訪的對象 Jade Thirlwall，而是同團的另一名團員 Leigh-Anne Pinnock 與另一名男性的合照！ ▲ 被 人工智慧 錯置配圖的新聞主角 Jade Thirlwall 在 IG 上表達對 MSN 新聞的不滿 AI 人工智慧 造成的烏龍，不意外地，引發新聞主角 Jade Thirlwall 的不滿。她在 Instagram 上標註 MSN 並抱怨說：「@MSN 如果你們要複製貼上別家正確的媒體文章時，應該要確認一下配圖是否為正確的有色人種團員」。她還補充說：「這讓我很生氣，你們竟然沒辦法從只有 4 人團體中，區分 2 個有色人種女性？請加油吧！」 目前尚不清楚讓微軟 AI 人工智慧 犯下如此錯誤的原因，但微軟在新的聲明中表示：這不是「演算法偏見(註解如下)」的結果，而是自動化系統中的新功能測...