未來(lái)10—20年，AI技術(shù)將滲透至與人類(lèi)密切相關(guān)的領(lǐng)域，比如醫療、司法、生產(chǎn)、金融科技等風(fēng)險敏感型領(lǐng)域，AI技術(shù)如果犯錯，就會(huì )造成較大系統風(fēng)險�！�2020年12月29日，在未來(lái)科學(xué)大獎周舉辦的“青年對話(huà)”活動(dòng)中，清華大學(xué)計算機系長(cháng)聘副教授、中國科協(xié)全國委員會(huì )委員崔鵬說(shuō)。
活動(dòng)中，騰訊科學(xué)技術(shù)協(xié)會(huì )秘書(shū)長(cháng)張謙表示，面對AI技術(shù)所引起的風(fēng)險問(wèn)題，首先應該關(guān)注的是守住AI產(chǎn)品底線(xiàn)，即避免技術(shù)作惡。
在這方面，美團首席科學(xué)家夏華夏認為，法律法規方面需要做大量工作，包括制定AI行業(yè)的標準、規范，以及從國家層面完善、出臺相關(guān)法律法規，從而對AI技術(shù)發(fā)展進(jìn)行把控。
談及AI標準化的實(shí)踐，中國人民大學(xué)法學(xué)院副教授、未來(lái)法治研究院社會(huì )責任和治理中心主任郭銳提到兩個(gè)原則——人的根本利益原則和責任原則，“這兩個(gè)原則的宗旨是讓AI的決策和行動(dòng)盡可能通過(guò)人的干預來(lái)避免對人的傷害”。
“徒法不足以自行�！惫J坦言，法律本身也存在局限，規避AI技術(shù)潛在風(fēng)險，需管理者對AI技術(shù)有透徹的了解，這樣才能對其進(jìn)行有效管制，“法律是建立包容性社會(huì )的重要工具，法律界要和企業(yè)、技術(shù)等方面專(zhuān)家合作，這樣通過(guò)法律來(lái)對AI技術(shù)進(jìn)行管理約束的目標才能達成�！�
星界資本管理合伙人方遠認為，各大核心數據平臺處于A(yíng)I風(fēng)險管理的重要位置，“在互聯(lián)網(wǎng)和大數據時(shí)代，大平臺是數據的采集者也是守護者。務(wù)必要對數據使用權做出清晰界定，這對整個(gè)社會(huì )的AI發(fā)展有重要意義”。
“AI技術(shù)的風(fēng)險治理需要科技工作者、企業(yè)管理者、政策制定者、相關(guān)法律專(zhuān)家以及投資人多方努力�！敝锌圃河嬎闼芯繂T山世光說(shuō)。
除了守住底線(xiàn)，與會(huì )者還提到，要厘清邊界，引導技術(shù)向善。
崔鵬指出，犯錯并非AI特有的風(fēng)險，人也會(huì )犯錯�！暗朔稿e大多數可控、可預測。而目前AI技術(shù)犯錯的話(huà)是不可預測的，或者犯錯后人們會(huì )發(fā)現其犯錯機制是無(wú)法從技術(shù)層面解釋的。這涉及到AI在決策和行為上的邊界問(wèn)題�！�
厘清邊界具體包括AI需要明白它會(huì )什么、不會(huì )什么，以及人需要明白AI什么事能做、什么事不能做等問(wèn)題。崔鵬認為，如不厘清邊界，AI還會(huì )犯更多低級錯誤，帶來(lái)更大風(fēng)險。
郭銳認為，目前AI遇到的倫理問(wèn)題，實(shí)際上是因為它遠未達到人類(lèi)智能的程度，卻已被賦予為人類(lèi)做決策的責任，“還有人把AI技術(shù)當作借口，用科學(xué)的名義做不符合倫理的決策，這樣做是不對的。需要人決策的地方應該由人決策”。
2020年新冠肺炎疫情期間，英國用一套算法得出學(xué)生成績(jì)，結果近40%的學(xué)生成績(jì)低于教師的預估分數，導致很多學(xué)生與名校失之交臂。山世光說(shuō)，有些人工智能模型或數據模型沒(méi)有考慮到社會(huì )公平、優(yōu)勢累計惡果，導致看起來(lái)運算過(guò)程很?chē)乐�、結果很準，但卻并不足以支持AI做出科學(xué)決策。
有專(zhuān)家表示，這并非AI技術(shù)的錯。夏華夏說(shuō)，真正應承擔社會(huì )責任的是使用AI技術(shù)的人、企業(yè)等。AI技術(shù)向善需要社會(huì )整體文明發(fā)展到一定階段，形成良好氛圍。張謙則提到，技術(shù)并不可怕，可以通過(guò)技術(shù)進(jìn)一步發(fā)展解決技術(shù)存在的問(wèn)題。
山世光稱(chēng)：“說(shuō)到底，我們還是希望AI技術(shù)能得到健康發(fā)展，滿(mǎn)足對科技真、善、美的追求�！�
業(yè)界動(dòng)態(tài)
龍芯新品發(fā)布會(huì )官宣！64核心128線(xiàn)
皖公網(wǎng)安備34150102000370號
在線(xiàn)咨詢(xún)