最近產品經理的朋友圈又被ChatGPT刷屏了。

(資料圖)

因為4.0支持多態(tài)模型，以及圖片查閱，從以前聽得見到現(xiàn)在看得見，能力升級后大火，同時在第二天百度的文心一言也發(fā)布。

雖然在發(fā)布會上李彥宏的中國版ChatGPT被吐槽說是用錄播視頻來展示效果甚至是叫做Chat PPT，但是作為中國的科技公司，第一次向美國的Chat GPT對標，無論如何這也是中國發(fā)起的"科技戰(zhàn)"第一步。

今天這篇文章，我不是去吐槽或者嘲笑國內版本的chat GPT，反而是作為產品經理，我們會更加對產品背后的數據安全有更加敏銳的判斷能力。

那么在使用Chat GPT類產品，背后會帶來什么樣的數據與信息安全問題呢？

我做3點分享

1.現(xiàn)在的ChatGPT類產品就像在做黑盒測試

有過測試經驗的產品經理應該知道，我們產品上線前會經歷白盒測試和黑盒測試，通過Chat GPT我得到了兩者的區(qū)別和應用場景?????????????????

"白盒測試是指測試人員了解軟件的內部結構和實現(xiàn)細節(jié)，包括源代碼、算法和數據結構等。測試人員使用這些知識來設計和執(zhí)行測試用例，以測試軟件在不同條件下的行為和功能是否符合預期。

相比之下，黑盒測試則是不考慮軟件內部結構和實現(xiàn)細節(jié)，只關注軟件的功能和用戶界面等外部特征。測試人員基于軟件規(guī)格說明書、用戶手冊和其他文檔來設計和執(zhí)行測試用例，以驗證軟件是否滿足規(guī)格說明書中的需求和功能。

因此，白盒測試適用于對復雜的軟件進行全面測試，能夠發(fā)現(xiàn)潛在的代碼錯誤、邏輯錯誤和性能問題等。而黑盒測試則更側重于測試軟件的功能和用戶體驗，適用于對軟件外部特征進行測試。

需要注意的是，白盒測試和黑盒測試并不是互相排斥的，它們可以相互補充，共同構成一套完整的測試方案。"

-----本介紹由ChatGPT生成

而現(xiàn)在使用Chat GPT類的產品，就相當于是在一個黑盒場景里，用戶只管輸入自己的提問或內容，馬上可以得到結果。但是卻不知道這些結果來自于哪里還是原版生成的。???????????????

2.Chat GPT 創(chuàng)新的交互方式????????????

在一次直播訪談里，360的CEO周鴻祎提到：????????????????????????????

"再牛的技術一定要有個貼切的場景。ChatGPT這次火起來，很重要的一點是找到了一種非常簡單的交流方式，就像當年Google把復雜的搜索引擎藏在一個簡潔的搜索框一樣，ChatGPT今天把復雜的人工智能變成了云服務。"

現(xiàn)在我們說市面上的各種AI能力有多么強大，但是用戶很難感受到，如何讓用戶使用起來方便，快速感知。這是AI開發(fā)者也困擾的最大問題。

對于用戶來說，他們不需要知道這復雜的代碼和功能邏輯，她只需要可以直接使用，快速提升他的工作效率，就可以了。這就是非常強大的AI。

所以在這一點上，ChatGPT的產品經理事非常優(yōu)秀的

3.用戶使用Chat GPT的"黑盒測試"????????

我身邊日常使用Chat GPT的同學，經常會說："我還要花時間去驗證ChatGPT給的答案是不是正確，這個真累死我了"????????

因為Chat GPT會一本正經的說錯誤答案，如果你對你提的問題完全不會，那么你幾乎不會發(fā)現(xiàn)它在胡亂說話。????????????????????

正式這種交互方式，讓用戶不知道Chat GPT說的答案是正確還是錯誤的。即使是錯誤的，也不知道是哪里錯了，錯了多少。??????????????

相信用它來寫論文、做作業(yè)的同學，會非常擔心ChatGPT所帶來的答案是否有查重率較高的情況，因為現(xiàn)在的ChatGPT并不能告訴你，自己的回答有多少重復率，所以學者用戶在使用上需要步步小心。

4.在Newbing上的進一步優(yōu)化???????

在new bing上，融入ChatGPT后可以給出related searches，以及通過信息流的形式展示出搜索引擎的答案，讓用戶可以不僅是通過ChatGPT獲得結果，還能夠篩選信息獲得，這樣的就會避免直接使用錯誤信息的情況。

但即使這樣，ChatGPT也仍然有信息安全的問題。比如是否會有某類信息不準展示，某類信息過于胡編亂造。???????????????????????????????????????????????

5.開發(fā)者自行干預，導致ChatGPT類應用的結果有偏向性???????

開放的ChatGPT接口能力，開發(fā)者可以通過調用后融入在自己的應用程序里，但我相信許多開發(fā)者會以固定關鍵詞、標簽甚至是算法植入的方式，將ChatGPT的應用返回結果根據自己的場景進行修改等干預，所以我也不免擔心這類應用是否會像百度SEO一樣，大量的投放廣告會充斥在百度的搜索結果里，就像下圖搜索"預防脫發(fā)"的排序，充值付費后就可以得到大量的排名在前????????????????????????

用戶在瀏覽結果信息需要區(qū)分"廣告"關鍵詞，否則就容易進?錯結果。?????

而Chat GPT在產品設計上，因為是"黑箱測試"。這類廣告的引導一旦植入后，轉化率將大大提高，因為用戶沒有其他信息篩選。

但相信官方也會提供接口能力，允許開發(fā)者標注，否則就會大大降低點擊率，會造成ChatGPT的口碑，商業(yè)化收益降低等影響。???????

不過最近有新聞提出，open AI的充值入口已經爆滿，大家都在爭先前后的排隊使用，所以到底是面向開發(fā)者收費，還是直接給企業(yè)做投放，商業(yè)模式的策略會影響產品形態(tài)。

???????????若加入有類似排名競價的方式，勢必會對chat GPT的回復結果與信息，帶來較大的干擾。若再加上政治等其他影響，勢必可能會影響一些用戶的價值觀。????????????

而這種價值觀的影響，隨著Chat GPT的使用時間越多，粘性越強，會不會造成文化侵入呢？我想結果是肯定的。

或者數據泄漏呢？?

假如有保密人員提問，或者對相關保密的商業(yè)模式、或者國家安全機密的問題，這類問題是否會被泄漏呢？?????????

就像你在百度或者谷歌的搜索引擎一言一行是否會被監(jiān)控呢？??

所以站在信息安全與數據隱患上，或多或少使用國產的ChatGPT類產品會更加安全。你認為呢？??????????????????????????????????

今天的分享就在這兒。?

關鍵詞：