對於AI來說, 讓結果從“不準”到“準”, 不是十分容易，與傳統的“找bug修bug”模式全然不同。
目前在對AI的爭論當中，一個常常被提起的問題就是“算法黑箱”。也就是說，人類不能解釋它的工作原理。
人工智能的核心是“神經網絡”。科學家們模仿人類神經係統，讓機器進行學習。“神經元”們一層一層分布下來，每個單元都能接收部分數據，再將結果向上傳給其他單元。
還是用“貓”來打比方，第一層可以將圖片切割、降維, 得到許多小圖, 第二層在每個維度利用色差尋找邊緣, 三四五層根據勾勒出的邊緣確定各個器官形狀，六七八層通過各個部分顏色判斷毛色、花紋，瞳色……最後頂層得出答案：這是貓、狗、兔子、其他。
2006年多層神經網絡出現以前，機器學習都隻處於初級階段, 需要人工提取特征。而2006年後, 它進入到“深度學習”的大時代。人類不監督、半監督, 機器自己分析特征、獨立思考。給一萬張貓的圖片, 說“這都是貓”, 它就懂了，再給一張它沒見過的，問“是不是貓”, 它會說是。人們給它正確答案的數據集, 它便可以進行學習, “看”的越多會的越多，不斷優化自身能力。因此，“人工智能”定義十分清晰，區彆是真·人工智能還是噱頭隻需要看它有沒有模仿人腦。
然而，對每一層都在提取什麼特征，以及機器為何要做這些事情、為什麼能得出結論，人類無法解釋。根據輸出，有些提取簡單易懂，比如勾勒邊緣、模糊圖片、突出重點、銳化圖片……可是，在很多時候，人類完全get不到！看著某層下來以後圖片所變成的樣子，隻能叫一聲“什麼鬼！”有時人類隻能提出幾個特征，AI分出好幾百層！
它給了人空前的可能，也給了人無儘的困惑。
就像人類無法摸清大腦的工作原理一樣，他們同樣無法摸清AI的工作原理。
訓練AI這種方式為何能行？它是如何學的？信息存在哪裡？為何下此判斷？不知道。
它好像在玄幻境界。碼工時常覺得自己正在養蠱，賊刺激，給蠱蟲喂個這個、喂個那個，一掀蓋子，謔，出來一個超厲害的東東！
有人說，讓AI向人解釋一個東西，相當於讓人向狗解釋一個東西，聽著so sad。
人類曆史充分表明，隻有一個決策可以解釋、分析，人才可以了解它的優點缺陷，評估風險，知道它在多大程度能被信賴。
很多專家說過“必須質疑人工智能為何做出一個決定……”“難道，無人汽車每回出事，企業都說不知原因、AI讓它這麼乾的？”
何況，不幸的是，如同大腦會出錯，AI也會出錯。
於是問題來了：我們能信任AI嗎？我們能在多大程度上相信AI？我們能在生死攸關時信任AI嗎？
當然，也有學者表示：“它能做到就足夠了！”“大腦一直為你工作，你也一直都信任它，即使並不知道它是如何工作的。”
目前，各國科學家正致力解開黑箱，政府、行業協會也對此有要求，已經取得一些成果——不少東西都是數學。
阮思澄是一直覺得，這種現象十分正常，沒有那麼邪乎。在人類的文明當中，往往實踐先於理論。比如，老祖宗在打造刀劍時、發明火-藥時，清楚地知道原理嗎？NO！都是東西先出來了，能work了，大家才開始研究原因。
AI也是啊！慢慢來嘛。
不過，雖然如此，攻城獅們寫程序時，也能根據他人經驗，知道大概該怎麼做。AI能自己學，但是，攻城獅們需要設置許多參數，比如用哪一種激活函數；如何搭建網絡結構；分彆設置多少卷積層、池化層、全連接層，如何排列架構；用多少個卷積層；用哪一個池化方式；選擇多大以及多少卷積核、多大卷積步長和池化步長、多大學習率，又分彆從哪層開始、到哪層結束……[注]。也因為沒道理可講，各種奇奇怪怪的結構都有了。層數絕非越多越好，層數越多，說明運行時間越長、傳遞錯誤幾率越大。
出於這個原因，對算法的調整、修改，經常就是瞎jb試，比較最終結果。
調參數能有效還好，數據也有可能不行！要知道，輸入數據的大小、像素、嗓聲、甚至亮度和對比度、翻轉變換、旋轉變換、位移……都可以對最終結果產生影響！為啥？還是，不知道。
因此，現在“經驗”並不好用，結果一塌糊塗，可阮思澄和陳一非對於修改全無頭緒。
他們甚至無法估摸不準到準需要耗費多長時間。
…………
阮思澄從貝恒那兒繼承了個降壓方式——搓臉。
她搓了搓，撥打內線叫陳一非，一起開會。
“一非，”阮思澄問，“這個結果……要多久能調整過來？”
氣，她想：如果錢納貝恒現在都在公司思恒醫療不會陷入這種困境。罷免錢納奪回公章耽誤了一個月，貝恒接手、不會，消耗了兩個月，接著招聘、挖人，等陳一非入職，又是一個月。
陳一非答：“思澄，目前……沒有頭緒。如果說一個月就能全部搞定肯定是胡扯淡。”
阮思澄：“……”
“咱們必須有B計劃。”陳一非又開口說道，“公司賬上還有200萬，能堅持到兩個月後。也就是說，將將巴巴能擠出來一個月完善產品，一個月出門融資。下個月要還是不準，思恒醫療就會走到窮途末路。”
“我知道。”阮思澄說，“我問問邵總王總，是否行使增資權利。”
“行。”
按照投資協議，邵君理和王選擁有增資權利，有權利但無義務在產品初版出來後以2億估值再投5%，也就是1000萬。其實現在邵君理和王選股權已經太多，34%，但也沒辦法了，隻能以後想方設法強迫天使以低估值出售股權，或者勸誘對方往期權池扔回一點。如能進入A輪，這點應該不難。
“如果邵總王總拒絕……”
陳一非的臉孔還是白胖白胖，笑容十分職業，讓人非常舒服，可語氣中卻無半分和藹可親，他說：“儘早裁員。”
裁員！！！
阮思澄隻覺得自己頭皮一麻！！！
她抬起頭，沒有說話。
陳一非說：“行政崗位全部裁掉，A輪進來再重新招。產品經理、UI設計，現階段也可以不要，還有早前從事頭痛腹痛的工程師，通通裁掉。”
頓頓，又道：“我這兩月不拿工資，補貼公司。”
“一非，咱先彆提裁員。”阮思澄笑，心裡發涼，“我打電話問問增資。”
“好。”在出現問題時，陳一非並不如貝恒一般逃避，而是依然帶著氣場，維護著他CTO的體麵——貝恒都恨不得把自己給縮沒。
…………
阮思澄在自己肚裡打了整整十遍腹稿，終於按下投資爸爸辦公室的電話號碼！
秘書接進去，邵君理磁性的聲音很快響起：“在。”
“邵總，”阮思澄的聲音當中帶著不安，“我想彙報一個情況。胸痛部分，還有腹痛部分……我們剛把測試集給輸進去了。”
“不好？”
“是……”阮思澄道，“有一大半心臟疾病……AI並沒有診斷出來。”
邵君理的聲音一頓，而後才又重新響起：“我期望的結果是比人類醫生更快更準。”
阮思澄咬了咬下唇。傳統算法對於波的識彆有局限性，而思恒的機器，用和RNN，可以和人一樣，將 P-QRS-T作為完整波群進行分析，看數字，看波形，看各種指標，還能根據患者特征讀的更好！甚至知道瘦人該什麼樣、胖人該什麼樣、小孩該什麼樣、老人該什麼樣、孕婦該什麼樣，比人類醫生懂的更多！
每年許多心臟病患無法確診被送回家，阮思澄本希望AI可以幫忙。
而事實是，現在，它失敗了！！！
阮思澄長呼吸了口：“而且……另個部分也不如意……本來，P大易均團隊做最難的超聲，應該取得最差的結果，可事實上，這一部分在測試中挺靠譜的……貝恒離職以前弄出來的東西反而不行。”
“腹部本就是不易的。”邵君理道，“不僅僅是圖像識彆。”
“嗯。”阮思澄也清楚，畢竟圖像識彆發展相對較快。
“具體說說測試結果。”
阮思澄的思路清晰，一項一項仔細說了，包括哪種病準，哪種病不準，準確率是多少，如果不準，AI都給看成什麼了。
邵君理聽完，想：太差了。
真的，太差了。
準的都是容易看的。
“邵總……”阮思澄又弱弱地道，“我們正在修程序呢……”
“嗯。”
“可是時間真的好緊，思恒隻剩200萬了。您……如果是您，有沒可能投資pre-A輪……或者天使輪加？”
阮思澄並沒有想到話筒那邊一陣沉默。
“邵總，”阮思澄道，“請您實話實說。”
足足過了七八秒鐘，邵君理才講出答案：“這種情況，我不會投。”
一分都不會投。
在邵君理看來，生意歸生意，感情歸感情，他在這些方麵有著99%的理性。
難道每年投資1000萬陪小姑娘玩兒遊戲？瞞著哄著？對誰好呢。資本市場不講感情，甚至不講道德、人性。
事實上，自從錢納離開公司，他就不看好了。
工作3年的小姑娘當公司CEO純屬扯淡，等到產品進入市場更是夠她喝一壺的。
然而2000萬投都投了，也不可能再收回來。
可是現在，產品demo一塌糊塗，寄希望於後期調整，或者說，寄希望於撞個大運。陳一非方向、思路沒有問題，依他水平選的肯定也是已知道的最優參數，能調好的可能微乎其微。
“投的公司捉襟見肘，A輪融資還沒頭緒”其實是天使投資人們常常會碰到的情況。這個時候，創業公司往往絕望地求助於天使，希望對方再掏點錢讓公司撐一下，繼續尋找投資。
於是天使深陷泥潭，直到某天如夢初醒。
換了過去絕不會投，該斷則斷，讓那公司自生自滅。
可是……
一想到阮思澄失望難過的樣，邵君理的心裡其實並不好受。
再說吧，先讓公司自然發展，等真到了生死關頭，再說吧。
“邵總，”阮思澄叫，“我明白了，您彆為難。”
她挺了解邵君理的，知道對方絕不會把公事私事混為一談。
“阮……”
“邵總，”阮思澄在心裡算算，“思恒醫療打算裁員。”
“是個辦法。”
“嗯。”