在QQ音樂,輸入“點(diǎn)擊搜索”,操作機(jī)器自動執(zhí)行進(jìn)入到搜索界面,點(diǎn)擊搜索音樂到輸入框,輸入“周杰倫”,點(diǎn)擊“說好不哭”

Testin云測總裁徐琨在NCTS中國云測試峰會上用自然語言在iTestin上現(xiàn)場演示AI+測試的真正能力,只需在界面中輸入點(diǎn)擊、等待、檢查、長按、輸入等自然語言的文字描述,后臺的AI就能準(zhǔn)確實(shí)時(shí)的在真機(jī)上進(jìn)行完整無誤的操作和相關(guān)指令。

2. OCR文字識別:實(shí)現(xiàn)跨平臺腳本能力,降低腳本維護(hù)成本

目前大部分應(yīng)用為了Android端和iOS端的體驗(yàn)一致,會傾向在兩個(gè)端上采用相同的UI設(shè)計(jì),即相同的UI界面和操作體驗(yàn)。企業(yè)希望減少對腳本維護(hù)的人力投入,同時(shí)在后續(xù)新增腳本時(shí),逐步將Android端和iOS端的腳本統(tǒng)一為一套腳本,這樣進(jìn)一步減少腳本維護(hù)的投入。Testin云測通過只依賴UI界面截圖的OCR和圖標(biāo)識別技術(shù),使得Android端和iOS端使用同一套UI自動化測試腳本成為可能,實(shí)現(xiàn)跨平臺腳本能力,大大降低腳本維護(hù)成本。

在對OCR的檢測和識別模型進(jìn)行訓(xùn)練時(shí),數(shù)據(jù)是最關(guān)鍵的輸入,而且數(shù)據(jù)的精準(zhǔn)度和多樣性,對模型的精準(zhǔn)度和泛能力起到?jīng)Q定性作用。Testin云測擁有自身多年積累的應(yīng)用測試數(shù)據(jù),OCR訓(xùn)練數(shù)據(jù)量達(dá)1600萬,并且具有專業(yè)的AI數(shù)據(jù)采集與標(biāo)注團(tuán)隊(duì)對數(shù)據(jù)進(jìn)行處理。

3.圖標(biāo)識別技術(shù):進(jìn)一步提升用戶體驗(yàn)和自動化測試穩(wěn)定性

在應(yīng)用的UI自動化測試中,除了文字,圖標(biāo)是另外一個(gè)與用戶交互最多的元素。在傳統(tǒng)的自動化測試中,圖標(biāo)的識別主要靠控件ID和其他的控件信息,如class,xpath等,但這些信息在自動化測試實(shí)踐中被證明存在較大的不可靠性。因此,Testin云測的自動化測試主要從圖像的角度來識別和定位控件元素。

圖標(biāo)識別技術(shù)是除OCR以外,另外一項(xiàng)支撐Testin云測自動化測試的關(guān)鍵技術(shù)。目前大部分應(yīng)用采用簡約設(shè)計(jì)的線條形圖標(biāo),導(dǎo)致原本可靠的模板匹配和特征點(diǎn)匹配技術(shù)失效。在實(shí)際測試中,現(xiàn)有最好的圖標(biāo)識別技術(shù),正樣本的準(zhǔn)確率只有66.87%,負(fù)樣本準(zhǔn)確率為91.16%,單個(gè)圖標(biāo)識別耗時(shí)為1532ms。Testin云測對簡約設(shè)計(jì)的線條圖標(biāo)的識別,專門設(shè)計(jì)了圖標(biāo)相似度判別算法,大大提高了圖標(biāo)識別的準(zhǔn)確率和對正負(fù)樣本的分辨能力,最終的正負(fù)樣本準(zhǔn)確率在測試數(shù)據(jù)集上都超過了97%,單個(gè)圖標(biāo)識別平均耗時(shí)為319ms,實(shí)現(xiàn)了業(yè)界領(lǐng)先的識別精度和性能。

此外,Testin云測利用自身的數(shù)據(jù)積累的優(yōu)勢,對應(yīng)用上的常用圖標(biāo)利用深度學(xué)習(xí)目標(biāo)檢測技術(shù)實(shí)現(xiàn)自動識別和定位,進(jìn)一步提升了用戶體驗(yàn)和自動化測試的穩(wěn)定性。

結(jié)語

從信息化、數(shù)字化到智能化,互聯(lián)網(wǎng)作為IT能力的載體,很大程度上正在改變IT技術(shù)的研發(fā)趨勢和應(yīng)用模式,重構(gòu)整個(gè)人類社會的商業(yè)體系。新技術(shù)和新商業(yè)模式的涌現(xiàn)顛覆了傳統(tǒng)商業(yè)生態(tài),也改變了人們的社會習(xí)慣。企業(yè)正在經(jīng)歷一場深重的大變革,而隨著互聯(lián)網(wǎng)及傳統(tǒng)行業(yè)的公司逐漸轉(zhuǎn)向數(shù)據(jù)驅(qū)動的運(yùn)營方式,測試也被賦予了更多的含義。測試正變得越來越智能,機(jī)器學(xué)習(xí)正在帶來革命性的變化,讓我們拭目以待。

songjy