當(dāng)視頻設(shè)備具有主動意識時會發(fā)生什么?
人工智能的快速發(fā)展,給人們的生活帶來了極大的變化,***系統(tǒng)正是其中之一。傳統(tǒng)的***設(shè)備只能充當(dāng)于法庭上的佐證,且要耗費(fèi)大量的人力成本,有了基礎(chǔ)研究、計算能力和訓(xùn)練數(shù)據(jù)集等人工智能技術(shù)的引入,現(xiàn)在的***設(shè)備應(yīng)用場景越來越豐富了。本文就以IC Realtime、Boulder AI 兩個項目的實(shí)踐成果為例,詳細(xì)闡述了 AI ***設(shè)備的前景、問題及思考等內(nèi)容。一起來看看吧。
以下為譯文:
***攝像機(jī)一般被稱為數(shù)字化的眼睛,人們可以通過它們觀看各種視頻節(jié)目、觀看實(shí)況視頻等等。當(dāng)然,大多數(shù)***攝像機(jī)是被動的——它們被放置在那里作為一種威懾,或者在出現(xiàn)問題時提供證據(jù),比如車被偷了?那就***閉路電視吧。
但是,現(xiàn)在事情發(fā)生了很大的變化,人工智能使得***攝像機(jī)能夠與數(shù)字大腦相匹配,讓它們可以自行分析現(xiàn)場視頻,而不需要借助人類的幫助。這對于公共安全來說可能是個好消息,幫助警方和急救人員更容易地發(fā)現(xiàn)犯罪和事故,并且能夠帶來一系列的科學(xué)和工業(yè)應(yīng)用。但是這也給未來的隱私問題提出了嚴(yán)重的思考,給社會正義帶來了新的風(fēng)險。
試想一下,當(dāng)政府可以跟蹤大量觀看閉路電視的用戶信息時、當(dāng)***可以通過將你的照片上傳到數(shù)據(jù)庫來數(shù)字化尾隨你的城市動向時、或者當(dāng)***不喜歡某個特定人群的表情而在當(dāng)?shù)厣虉龅臄z像機(jī)上運(yùn)行有偏見的算法時......這些情況下,會發(fā)生什么?
AI ***從搜索視頻開始
雖然以上這些情景的實(shí)現(xiàn)還有一段路要走,但我們已經(jīng)看到了將人工智能和***結(jié)合起來的第一批應(yīng)用成果,IC Realtime 就是一個例子。去年 12 月份,IC Realtime 的旗艦產(chǎn)品一經(jīng)推出便被譽(yù)為閉路電視領(lǐng)域中的谷歌。這是一個名為 Ella 的應(yīng)用程序和網(wǎng)絡(luò)平臺,它使用 AI 來分析視頻 Feed 中發(fā)生的事情,并且能夠即時搜索。Ella可以識別成千上萬的自然語言查詢,并為用戶提供大量的搜索素材,比如找到特定的剪輯視頻、穿著某種顏色衣服的人、甚至個人汽車的品牌和型號等等。
在一次網(wǎng)絡(luò)演示中,IC Realtime 首席執(zhí)行官 Matt Sailor 演示了 Ella 的功能,它連接了約 40 個工業(yè)園區(qū)的***攝像機(jī),并進(jìn)行了“一個穿紅衣服的男人”、“UPS 貨車”、“警車”等各種搜索嘗試——所有這些都在幾秒鐘內(nèi)返還了相關(guān)的鏡頭。
“假如發(fā)生了搶劫,但你還沒有意識到事情的發(fā)生,”Sailor表示, “但這時有一輛吉普車恰巧經(jīng)過,那我們在Ella 中搜索“吉普車”,屏幕上就會顯示不同的吉普車經(jīng)過的場景——這將是人工智能和閉路電視結(jié)合的第一大優(yōu)勢”。Ella 在谷歌云上運(yùn)行,幾乎可以從任何閉路電視系統(tǒng)中搜索鏡頭。Sailor 認(rèn)為,這個技術(shù)的應(yīng)用能讓你很容易地找到你要找的東西,而不需要在那篩選好幾小時的視頻。
IC Realtime 已經(jīng)在亞馬遜、Logitech、Netgear、谷歌旗下的 Nest 等公司生產(chǎn)的“智能”家庭安防攝像機(jī)市場中獲得了巨大的成功。
使用Ella搜索穿紅色衣服的人
“我們現(xiàn)在在愛達(dá)荷地區(qū)的識別準(zhǔn)確率高達(dá)100%”
雖然 IC Realtime 提供了基于云的分析功能,可以升級現(xiàn)有的傻瓜相機(jī),但其他公司更多采取的是將人工智能直接構(gòu)建到硬件中——將 AI 集成到設(shè)備中的一大優(yōu)勢是,它們不需要互聯(lián)網(wǎng)連接即可工作,Boulder AI 就是這樣一家初創(chuàng)公司,它使用自己的獨(dú)立 AI 攝像頭銷售“愿景即服務(wù)”,并且可以為個人客戶量身打造機(jī)器視覺系統(tǒng)。
其創(chuàng)始人 Darren Odom給出了一個愛達(dá)荷州建造水壩的客戶例子。為了符合環(huán)保法規(guī),他們正在監(jiān)測魚類移動的數(shù)量。Odom說:“最開始他們有人坐在窗臺上看著有多少鱒魚游過,后來他們改用了***視頻,由負(fù)責(zé)的人來遠(yuǎn)程觀察。”最后,他們聯(lián)系了Boulder AI,幫助他們建立了一個定制的人工智能閉路電視系統(tǒng)來識別魚類。Odom自豪地說:“我們確實(shí)使用計算機(jī)視覺確定了魚類的識別,現(xiàn)在在愛達(dá)荷州地區(qū)的鱒魚識別準(zhǔn)確率更是高達(dá)100%。”
IC Realtime代表了通用終端市場,Boulder AI代表了承包商市場,不過,在這兩種情況下,這些公司目前所提供的也僅僅是冰山一角。就像機(jī)器學(xué)習(xí)在識別物體的能力方面取得迅速的進(jìn)步一樣,基礎(chǔ)研究、計算能力和訓(xùn)練數(shù)據(jù)集等創(chuàng)建人工智能的關(guān)鍵組成部分都已到位,分析場景、活動和動作的技能也有望迅速提高。視頻分析的兩大數(shù)據(jù)集是由 YouTube 和 Facebook 制作的,他們也希望人工智能能幫助他們在平臺上優(yōu)化更多內(nèi)容。例如,YouTube 的數(shù)據(jù)集包含超過 45 萬小時的標(biāo)簽視頻,希望能夠刺激“視頻理解的創(chuàng)新和進(jìn)步”。谷歌、MIT、IBM 和 DeepMind 都參與了類似的項目。
目前,IC Realtime 已經(jīng)在開發(fā)面部識別等高級工具,Boulder AI也正在探索這種先進(jìn)的分析技術(shù)。
最大的障礙還是:低分辨率的視頻
對于***和人工智能方面的專家來說,這些功能的引入在技術(shù)和道德方面都存在一些潛在難題。和 AI 一樣,這兩個類別是交織在一起的——它是一個技術(shù)問題,機(jī)器不能像人類那樣理解世界,但是當(dāng)我們讓他們?yōu)槲覀冏鰶Q定時,它就變成了一個道德問題。
盡管近年來人工智能已經(jīng)使這視頻***領(lǐng)域取得了巨大的進(jìn)步,但在計算機(jī)理解視頻方面仍然存在著根本性的挑戰(zhàn)。舉個例子來說,一個經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)可以分析視頻中的人類行為,這些工作是通過將人體細(xì)分為多個部分:手臂、腿部、肩部、頭部等,然后觀察這些小人物從一幀視頻到另一幀的變化。從這個角度來看,AI 可以告訴你是否有人在跑步——但這取決于你所擁有的視頻分辨率。
這對閉路系統(tǒng)來說是一個大問題,因?yàn)閿z像機(jī)往往暗轉(zhuǎn)的角度往往很怪異。以便利店的照相機(jī)為例,這個便利店的目的是收銀機(jī),但是它也忽略了面向街道的窗戶。如果外面發(fā)生搶劫,相機(jī)被擋住了,那么 AI 就發(fā)揮不了作用了。
由中國公司 SenseTime 構(gòu)建的人工智能***系統(tǒng)
同樣,雖然人工智能能夠很好地識別視頻中的相關(guān)事件,但仍不能提取重要的上下場景。拿分析人類行為的神經(jīng)網(wǎng)絡(luò)為例,可能會看到鏡頭顯示“這個人正在跑步”,但它不能告訴你他們是否真的在跑步,因?yàn)樗麄兓蛟S錯過了某輛公共汽車,或者是因?yàn)樗麄兺盗四橙说碾娫挕?/p>
這些準(zhǔn)確度問題值得我們反思,電腦與人類的洞察力和理解視頻所看到的東西相比相差甚遠(yuǎn)。不過,技術(shù)的進(jìn)步速度很快。使用車牌跟蹤車輛,識別汽車和衣物等物品,在多臺攝像機(jī)之間自動跟蹤一個人——這些識別場景已經(jīng)非常穩(wěn)固了。
目前仍有很多 AI ***難題亟待解決
但是,即使這些非常基本的場景應(yīng)用也可以產(chǎn)生強(qiáng)大的效果。華爾街日報的一份報告稱,在中國***,傳統(tǒng)的***和民間***方式與面部識別、牌照掃描儀、虹膜掃描儀以及無處不在的閉路系統(tǒng)相結(jié)合,形成了一個“完全***狀態(tài)”,能夠追蹤公共場所中的任何人;在莫斯科,正在組裝一個類似的基礎(chǔ)設(shè)施,將面部識別軟件插入一個集中了超過 10 萬臺高分辨率相機(jī)的集中系統(tǒng),該相機(jī)覆蓋了該市 90% 以上的公寓入口。
這種情況可能會帶來一個良性循環(huán),隨著軟件越來越好,系統(tǒng)會收集到更多的數(shù)據(jù),從而幫助軟件變得更好。
這些系統(tǒng)確實(shí)正在起作用,但是還有很多問題亟待解決,比如算法偏差。研究表明,機(jī)器學(xué)習(xí)系統(tǒng)能夠吸收種族和性別歧視,從對婦女進(jìn)行廚房的圖像識別軟件到總是說黑人更容易犯罪的刑事司法系統(tǒng)等都有體現(xiàn)。如果我們使用舊視頻來培訓(xùn)人工智能***系統(tǒng),比如來自閉路電視或者***機(jī)構(gòu)的攝像機(jī),那么存在于社會中的偏見很可能會延續(xù)下去。
ACLU 高級政策分析師 Jay Stanley 說,即使我們能夠解決這些自動化系統(tǒng)中的偏見,也不能使他們變得良性,因?yàn)椋瑢㈤]路電視攝像機(jī)從被動轉(zhuǎn)變?yōu)橹鲃觿t可能會對公民社會產(chǎn)生巨大的不利影響。
“我們希望人們不僅是自由的,還要更加自由自在的”
我們希望人們不僅是自由的,還要感到更加自在的。這意味著他們不必去擔(dān)心未知的、看不見的“觀眾”來隨意解釋或曲解他們的每一個動作和話語——也就不會給他們的生活帶來負(fù)面的后果。
此外,人工智能***的錯誤警報也可能導(dǎo)致執(zhí)法部門和公眾之間的矛盾更加激化。比如說,丹佛剃須刀的槍擊事件中,一名***就將用于害蟲控制的藥丸槍看成了剃須刀,結(jié)果導(dǎo)致了誤殺。如果一個人可以犯這樣的錯誤,那么電腦又怎么能避免呢?而且,如果***系統(tǒng)變得自動化了,那么這樣的錯誤只會變得越來越普遍。
當(dāng) AI 監(jiān)督越來越普及,誰來管理這些算法呢?
事實(shí)上,我們在這個領(lǐng)域看到的只是人工智能應(yīng)用趨勢的一部分,在這個趨勢中,我們使用這些相對粗糙的工具來對人們進(jìn)行嘗試和分類,但是結(jié)果的準(zhǔn)確性是值得懷疑的。
“令我感到不安的是,許多這樣的系統(tǒng)正在應(yīng)用到我們的核心基礎(chǔ)設(shè)施之中,但是卻沒有一個民主的程序來衡量問題的有效性和準(zhǔn)確性。”算法確實(shí)能夠提供基于嵌入文化和歷史偏見的數(shù)據(jù)中提取的模式識別類型,但也不可避免地帶來了人工智能***被濫用的問題。
對于這個問題,IC Realtime給出了科技行業(yè)常見的一個答案:這些技術(shù)是價值中立的,因?yàn)槿魏涡录夹g(shù)都有可能落入不法之徒的危險之中,這無法避免,但是它所帶來的價值絕對是高于它的缺點(diǎn)的。
-
算法
+關(guān)注
關(guān)注
23文章
4629瀏覽量
93212 -
AI
+關(guān)注
關(guān)注
87文章
31491瀏覽量
269991 -
人工智能
+關(guān)注
關(guān)注
1796文章
47642瀏覽量
239784
原文標(biāo)題:當(dāng) AI 監(jiān)督越來越普及,誰來管理這些算法呢?
文章出處:【微信號:mcuworld,微信公眾號:嵌入式資訊精選】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論