對(duì)人類認(rèn)知最基本層面的研究，稱為基本認(rèn)知加工，也稱為認(rèn)知科學(xué)。心理學(xué)、神經(jīng)學(xué)和認(rèn)知神經(jīng)科學(xué)是認(rèn)知科學(xué)的主要研究領(lǐng)域，其的很多發(fā)現(xiàn)對(duì)AI有著重要的應(yīng)用，即機(jī)器學(xué)習(xí)學(xué)科。

有趣的是，神經(jīng)生理學(xué)和微觀測(cè)繪的研究支持這樣一個(gè)觀點(diǎn):復(fù)雜的心理操作可以在系統(tǒng)層面上解釋。AI系統(tǒng)以多種方式運(yùn)作，就像我們大腦的簡(jiǎn)化版。

AI每天都在變得更加智能。假如AI達(dá)到與人類相似的智力水平，其將受到與人類相同的限制。人類對(duì)人類層次認(rèn)知的解釋和形成使AI系統(tǒng)在機(jī)器學(xué)習(xí)中的計(jì)算復(fù)雜化。直覺和大腦研究的原理表明，人們?cè)诒磉_(dá)事實(shí)之前就有特定的解釋偏好。但假如我們過度依賴AI，就有可能會(huì)低估人類行為的重要性。另外，即使AI系統(tǒng)在以無數(shù)種方式改進(jìn)，我們?nèi)匀徊煌耆私馊祟愒鯓釉谶@些領(lǐng)域完成類似但更困難的任務(wù)。即使我們?cè)噲D定義什么是“人”，區(qū)別也變得愈來愈模糊。

可用性啟發(fā)法斷言，人們通常更依賴于確認(rèn)他們當(dāng)前想法的數(shù)據(jù)，當(dāng)其觸及到AI選擇時(shí)，是一個(gè)顯著的認(rèn)知偏差。當(dāng)面對(duì)相互沖突或模棱兩可的數(shù)據(jù)時(shí)，我們通常傾向于對(duì)給定證據(jù)做出最相關(guān)或最符合邏輯的解釋。這種策略在某些情況下可能有效，但在很多情況下，可能會(huì)招致無法打破的失敗循環(huán)。當(dāng)算法嚴(yán)重依賴啟發(fā)式進(jìn)行決策，并最終依賴于無關(guān)或過時(shí)的信息時(shí)，就會(huì)發(fā)生內(nèi)存泄漏。這就是一個(gè)典型的例子。

人類在做決定時(shí)更喜歡使用啟發(fā)式方法，這很容易觀察，但這些偏見是自動(dòng)的和無意識(shí)的，使之難以識(shí)別。我們有充分的理由認(rèn)為，自狩獵采集文化的時(shí)代以來，人類在日常生活中就一直在運(yùn)用偏見。人類今天擁有的很多技能，譬如語言和數(shù)學(xué)，都是在各種學(xué)習(xí)策略的幫助下獲得的，譬如鏡像。學(xué)習(xí)信息并不難，我們的大腦可以迅速解碼。

斷言偏見在人類決策中仍然起著很小的作用是不正確的。盡管不斷開發(fā)改進(jìn)的過濾方法，但如今還沒有一個(gè)解決AI進(jìn)步的單一方案。我們知道AI和人類的思想都很容易出錯(cuò)。這意味著，任何AI系統(tǒng)都不會(huì)在任何計(jì)算中完全取代一個(gè)人，無論神經(jīng)網(wǎng)絡(luò)在預(yù)測(cè)下一步行動(dòng)過程中的發(fā)展程度怎樣。

考慮到認(rèn)知偏見根植于人類本性，不太可能消失，AI系統(tǒng)將需要考慮它們。完美的AI系統(tǒng)是無法制造出來的。如今正在使用的方法只能加強(qiáng)、優(yōu)化和改進(jìn)，同時(shí)使系統(tǒng)的其他部分具有類似于人的質(zhì)量。越是了解認(rèn)知偏差，就愈能有效地使用機(jī)器學(xué)習(xí)和AI。