“中國人是世界上最不誠實的人,最虛偽的人,甚至連叫人都玷污了人這個稱呼。”
近日,有家長稱向小天才兒童電話手錶某軟件提問“中國人誠實嗎”,得到了上述充滿偏見的回答。震驚之下,家長怒砸手錶並投訴。
8月30日下午,小天才方面發布公告稱,回答內容來自應用商店中的第三方軟件小度app。目前,該軟件已從手錶端下架,整改完成之前暫不上架,同時,小天才還將進一步強化第三方應用軟件多重審核機制及上架應用巡檢機制。
同日,小度科技方面也給出回應稱,問題內容來自第三方網站的文章,百度方面已經刪除上述信息,同時進行全面排查清理。目前,面對同樣的提問,小度app給出的回答已經“較為正常”。
新聞似曾相識,就在幾天之前,360手錶也被曝出同樣的問題,周鴻禕出面道歉。與360相比,小天才與小度尚未致歉,只是不約而同“甩鍋”給第三方。
兒童的心智和認知能力普遍不成熟。面向他們的產品與服務,如果存在這樣或那樣的偏差,很難說不會埋下一顆“壞種子”。
特別是,無論小天才或小度,都擁有大量兒童用戶。把關好自家產品與服務,呵護助力“幼苗”健康成長,是必須堅守的一道底線。否則,造成的影響可能相當惡劣且廣泛。
這恐怕也是為什麼,一塊小小的手錶,一次小小的問答,能在輿論場上激起一場不小波瀾。
無論如何,對於自身產品中出現的問題,雙方都沒有道理撇清責任;“動作一致”地“甩鍋”給第三方,不是負責任的企業該有的姿態。
對於暴露出的問題,兩家企業雖都作出了處置,但止步於此恐怕仍有不足。若想讓家長安心,讓大眾放心,至少有兩項議題需要企業重視起來。
其一,智能產品與服務,當“智”副其實。
拿小天才手錶上的小度app來說,它宣稱是ai智能助手。但它所回復的內容,不過是搜索抓取第三方網頁的回答。
這暴露了傳統搜索引擎的不足——根據關鍵詞進行網絡檢索,查找並呈現與關鍵詞相關的內容。但顯然,高相關性不意味着正確性,由此得到的回復可能存在較大偏差。
有專家指出,引入人工智能大模型到搜索引擎後,對搜索引擎檢索到的信息,使用大模型進一步處理後,再將結果返回給用戶,就可以避免不良和有害信息。
作為前車之鑒,360公司已將涉事兒童手錶的軟件升級到人工智能版本。應該說,這是一個理智的選擇。
升級技術手段,能夠更有力地保障內容安全與健康。所謂的智能助手,也才能對得起“智能”二字,才能更好地扮演助手角色。
其二,智能產品與服務,沒必要太“全能”。
近年來,兒童手錶屢屢陷入爭議與批評中。
其中比較突出的一個問題是,現如今,兒童手錶的功能,早已不再局限於定位或接打電話。從拍照到聊天,到視頻通話,再到發好友圈、玩遊戲,越來越像一部“迷你手機”,不少孩子沉溺其間。
其實,兒童手錶沒必要過多強調社交娛樂功能。定位的精確性、穩定性,極端情況下的監護功能,機器的續航能力,以及對信息安全的保護,這些看似基礎的功能與保障,才是大多數家長對兒童手錶的期待。
企業即便想要挖掘其他增長點,理智的做法,恐怕也是從輔助學習、成長這一環發力。“爭搶”孩子的注意力與時間,讓他們沉溺於手錶之中,短期內或許能從中牟利,但最終走向了家長的對立面,難免遭遇市場的反感與拋棄。
同樣的問題也存在於小度app(兒童手錶中的版本)的設計上。雖然應用簡介上顯示,它是百度推出的人工智能助手,但實際上,在功能設計上,小度app還可以打遊戲、聽音樂、聽漫畫。
對於兒童而言,如此“貼心”的助手,究竟是愛還是害? 說到底,相關企業要把智能技術用在刀刃上。在呵護孩子的道路上,技術可以更進一步;在有礙孩子成長的地方,技術的應用,則應多一些冷靜與剋制。如此,“小天才”才不會成為“小壞蛋”。(據安徽時評,張瑜)