導讀：來源丨AI科技評論 數據是構建人工智能系統(tǒng)必需的關鍵基礎設施。數據在很大程度上決定了AI系統(tǒng)的性能、公平性、穩(wěn)健性、安全性和可擴展性。 那么，用足夠多的數據訓練而來的AI系統(tǒng)，能夠做出正確的決策么？今年5月份，medium上的Marianne Bellotti博主發(fā)表了...
來源丨AI科技評論
數據是構建人工智能系統(tǒng)必需的關鍵基礎設施。數據在很大程度上決定了AI系統(tǒng)的性能、公平性、穩(wěn)健性、安全性和可擴展性。
那么，用足夠多的數據訓練而來的AI系統(tǒng)，能夠做出正確的決策么？今年5月份，medium上的Marianne Bellotti博主發(fā)表了一篇名為“AI正在解決錯誤問題的文章”。在文章中，作者提出一個觀點：在更多數據（信息）加持下，人類都不一定做出“合適決策”，為什么要假設AI會表現更好呢？
為了論證這個觀點，博主寫道：
“在現實生活中，決策者往往為了節(jié)約成本而進行優(yōu)化決策。但決策畢竟是根據結果來判斷好壞的，在正確分析的基礎上還需要一點運氣。在結果出來之前，即使是在絕佳數據支持下最仔細、最徹底構建的策略也無法保證決策的絕對正確。”
顯然，這一觀點的意思是：決策的過程與其說是對數據的客觀分析，不如說是對風險和優(yōu)先級的權衡。
最后，基于上述觀察，作者論證了這么一個觀點：數據驅動的AI模型，在做決策時候，極易受到攻擊。
