產(chǎn)品名稱(chēng):Project Mariner
產(chǎn)品簡(jiǎn)介:Project Mariner 是谷歌 DeepMind 推出的瀏覽器助手。Project Mariner基于 Gemini 2.0 技術(shù),用 Chrome 擴(kuò)展程序?qū)崿F(xiàn)瀏覽器自動(dòng)化,理解和執(zhí)行網(wǎng)頁(yè)任務(wù)。Project Mariner能理解和推理瀏覽器屏幕上的信息,包括像素和網(wǎng)頁(yè)元素,基于 Chrome 擴(kuò)展程序使用這些信息完成任務(wù)。Project Mariner 能控制 Chrome 瀏覽器、移動(dòng)屏幕上的光標(biāo)、點(diǎn)擊按鈕和填寫(xiě)表格,像人類(lèi)一樣使用和瀏覽網(wǎng)站。
詳細(xì)介紹:
Project Mariner是什么
Project Mariner 是谷歌 DeepMind 推出的瀏覽器助手。Project Mariner基于 Gemini 2.0 技術(shù),用 Chrome 擴(kuò)展程序?qū)崿F(xiàn)瀏覽器自動(dòng)化,理解和執(zhí)行網(wǎng)頁(yè)任務(wù)。Project Mariner能理解和推理瀏覽器屏幕上的信息,包括像素和網(wǎng)頁(yè)元素,基于 Chrome 擴(kuò)展程序使用這些信息完成任務(wù)。Project Mariner 能控制 Chrome 瀏覽器、移動(dòng)屏幕上的光標(biāo)、點(diǎn)擊按鈕和填寫(xiě)表格,像人類(lèi)一樣使用和瀏覽網(wǎng)站。Project Mariner在 WebVoyager 基準(zhǔn)測(cè)試中達(dá)到 83.5% 的高分成績(jī)。目前,Project Mariner 只能在瀏覽器的活動(dòng)選項(xiàng)卡中執(zhí)行鍵入、滾動(dòng)和點(diǎn)擊操作,在執(zhí)行某些敏感操作(如購(gòu)買(mǎi)物品)之前,會(huì)要求用戶(hù)進(jìn)行最終確認(rèn)。
Project Mariner的主要功能
- 多模態(tài)理解:理解瀏覽器屏幕上的所有內(nèi)容,包括像素、文本、代碼、圖像和表單等數(shù)據(jù)。
- 瀏覽器交互:實(shí)時(shí)導(dǎo)航和操作復(fù)雜的網(wǎng)站,自動(dòng)執(zhí)行瀏覽器中的任務(wù),保持用戶(hù)的控制權(quán)。
- 自動(dòng)化任務(wù):自動(dòng)與瀏覽器進(jìn)行交互操作,將數(shù)據(jù)整理、填充到網(wǎng)頁(yè)其他區(qū)域,同時(shí)將數(shù)據(jù)按照用戶(hù)的要求整理好。
- 復(fù)雜指令處理:理解、執(zhí)行復(fù)雜的用戶(hù)指令,分解為可執(zhí)行的步驟。
- 關(guān)系理解:理解不同網(wǎng)頁(yè)元素之間的關(guān)系及其功能。
- 視覺(jué)反饋:在執(zhí)行任務(wù)時(shí)提供視覺(jué)反饋和更新,讓用戶(hù)了解進(jìn)度。
- 安全性:在執(zhí)行敏感操作(如購(gòu)物和付款)之前,會(huì)要求用戶(hù)進(jìn)行最終確認(rèn),確保安全性。
如何使用Project Mariner
Project Mariner目前處于早期測(cè)試階段,僅對(duì)少數(shù)測(cè)試者開(kāi)放,訪(fǎng)問(wèn)Project Mariner的官方網(wǎng)站,加入等候名單。
Project Mariner的應(yīng)用場(chǎng)景
- 數(shù)據(jù)整理與復(fù)制:將網(wǎng)頁(yè)上的數(shù)據(jù)復(fù)制到電子表格中進(jìn)行整理,例如從存儲(chǔ)大量數(shù)據(jù)的網(wǎng)頁(yè)提取信息,整理到Excel等表格軟件中。
- 在線(xiàn)購(gòu)物:根據(jù)用戶(hù)給出的購(gòu)物清單,自動(dòng)在電子商務(wù)網(wǎng)站上搜索商品添加到購(gòu)物車(chē)。
- 旅行規(guī)劃:幫助用戶(hù)查找航班和酒店信息,自動(dòng)化旅行規(guī)劃過(guò)程中的網(wǎng)頁(yè)瀏覽和信息比較。
- 日常購(gòu)物:為用戶(hù)在零售網(wǎng)站上購(gòu)物,如搜索、購(gòu)買(mǎi)家庭用品。
- 食譜查找:在食譜網(wǎng)站上根據(jù)用戶(hù)需求自動(dòng)搜索和選擇食譜。