Skip to content

taurusduan/roubao

ย 
ย 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

ย 

History

28 Commits
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 
ย 

Repository files navigation

่‚‰ๅŒ… Roubao - AI Android Automation

่‚‰ๅŒ… Roubao

้ฆ–ๆฌพๆ— ้œ€็”ต่„‘็š„ๅผ€ๆบ AI ๆ‰‹ๆœบ่‡ชๅŠจๅŒ–ๅŠฉๆ‰‹ | AI Phone Automation Assistant

ๅŸบไบŽ่ง†่ง‰่ฏญ่จ€ๆจกๅž‹ (VLM) ยท ๅŽŸ็”Ÿ Android Kotlin ยท ๅคš Agent ๅไฝœๆžถๆž„

English | ็ฎ€ไฝ“ไธญๆ–‡

Platform Min SDK License Language

ๆผ”็คบ

้ฆ–้กต ่ƒฝๅŠ› ๆ‰ง่กŒ่ฎฐๅฝ• ่ฎพ็ฝฎ


้กน็›ฎ่ƒŒๆ™ฏ

2025 ๅนด 12 ๆœˆ๏ผŒๅญ—่Š‚่ทณๅŠจ่”ๅˆไธญๅ…ดๅ‘ๅธƒไบ†ใ€Œ่ฑ†ๅŒ…ๆ‰‹ๆœบๅŠฉๆ‰‹ใ€๏ผŒไธ€ๆฌพ่ƒฝๅคŸ่‡ชๅŠจๆ“ไฝœๆ‰‹ๆœบๅฎŒๆˆๅคๆ‚ไปปๅŠก็š„ AI ๅŠฉๆ‰‹ใ€‚ๅฎƒ่ƒฝๅธฎไฝ ๆฏ”ไปทไธ‹ๅ•ใ€ๆ‰น้‡ๆŠ•็ฎ€ๅކใ€ๅˆท่ง†้ข‘๏ผŒ็”š่‡ณไปฃๆ‰“ๆธธๆˆใ€‚

้ฆ–ๆ‰น 3 ไธ‡ๅฐๅทฅ็จ‹ๆœบๅฎšไปท 3499 ๅ…ƒ๏ผŒไธŠ็บฟๅฝ“ๅคฉๅณๅ‘Šๅ”ฎ็ฝ„๏ผŒไบŒๆ‰‹ๅธ‚ๅœบไธ€ๅบฆ็‚’ๅˆฐ 5000+ใ€‚

ไนฐไธๅˆฐ๏ผŸ้‚ฃๅฐฑ่‡ชๅทฑๅšไธ€ไธชใ€‚

ไบŽๆ˜ฏๆœ‰ไบ†่‚‰ๅŒ…โ€”โ€”ไธ€ไธชๅฎŒๅ…จๅผ€ๆบ็š„ AI ๆ‰‹ๆœบ่‡ชๅŠจๅŒ–ๅŠฉๆ‰‹ใ€‚

ไธบไป€ไนˆๅซใ€Œ่‚‰ๅŒ…ใ€๏ผŸๅ› ไธบไฝœ่€…ไธ็ˆฑๅƒ็ด ใ€‚๐ŸฅŸ


ไธŽๅŒ็ฑป้กน็›ฎ็š„ๅฏนๆฏ”

็‰นๆ€ง ่‚‰ๅŒ… ่ฑ†ๅŒ…ๆ‰‹ๆœบ ๅ…ถไป–ๅผ€ๆบๆ–นๆกˆ
้œ€่ฆ็”ต่„‘ โŒ ไธ้œ€่ฆ โŒ ไธ้œ€่ฆ โœ… ๅคงๅคš้œ€่ฆ
้œ€่ฆ่ดญไนฐ็กฌไปถ โŒ ไธ้œ€่ฆ โœ… ้œ€่ฆ 3499+ โŒ ไธ้œ€่ฆ
ๅŽŸ็”Ÿ Android ๅฎž็Žฐ โœ… Kotlin โœ… ๅŽŸ็”Ÿ โŒ Python
ๅผ€ๆบ โœ… MIT โŒ ้—ญๆบ โœ… ๅผ€ๆบ
Skills/Tools ๆžถๆž„ โœ… ๅฎŒๆ•ด โ“ ๆœช็Ÿฅ โŒ ๆ— 
UI ่ฎพ่ฎก โญโญโญยฝ โญโญโญโญ โญโญ
่‡ชๅฎšไน‰ๆจกๅž‹ โœ… ๆ”ฏๆŒ โŒ ไป…่ฑ†ๅŒ… โœ… ้ƒจๅˆ†ๆ”ฏๆŒ

ๆˆ‘ไปฌ่งฃๅ†ณไบ†ไป€ไนˆ้—ฎ้ข˜๏ผŸ

ไผ ็ปŸ็š„ๆ‰‹ๆœบ่‡ชๅŠจๅŒ–ๆ–นๆกˆ็—›็‚น๏ผš

  • ๅฟ…้กป่ฟžๆŽฅ็”ต่„‘่ฟ่กŒ ADB ๅ‘ฝไปค
  • ้œ€่ฆ้ƒจ็ฝฒ Python ็Žฏๅขƒๅ’Œๅ„็งไพ่ต–
  • ๅช่ƒฝๅœจ็”ต่„‘็ซฏๆ“ไฝœ๏ผŒๆ‰‹ๆœบๅฟ…้กป้€š่ฟ‡ๆ•ฐๆฎ็บฟ่ฟžๆŽฅ
  • ๆŠ€ๆœฏ้—จๆง›้ซ˜๏ผŒๆ™ฎ้€š็”จๆˆท้šพไปฅไฝฟ็”จ

่‚‰ๅŒ…็š„่งฃๅ†ณๆ–นๆกˆ๏ผš

ไธ€ไธช App๏ผŒ่ฃ…ไธŠๅฐฑ่ƒฝ็”จใ€‚ๆ— ้œ€็”ต่„‘ใ€ๆ— ้œ€ๆ•ฐๆฎ็บฟใ€ๆ— ้œ€ไปปไฝ•ๆŠ€ๆœฏ่ƒŒๆ™ฏใ€‚

ๆ‰“ๅผ€ App โ†’ ้…็ฝฎ API Key โ†’ ่ฏดๅ‡บไฝ ๆƒณๅš็š„ไบ‹ โ†’ ๅฎŒๆˆใ€‚


ไธบไป€ไนˆ้€‰ๆ‹ฉ่‚‰ๅŒ…๏ผŸ

ๅŽŸ็”Ÿ Android ๅฎž็Žฐ๏ผŒไธๆ˜ฏ Python ่„šๆœฌ็š„ๅฐ่ฃ…

ๅธ‚้ขไธŠๅ‡ ไนŽๆ‰€ๆœ‰ๆ‰‹ๆœบ่‡ชๅŠจๅŒ–ๅผ€ๆบ้กน็›ฎ๏ผˆๅŒ…ๆ‹ฌ้˜ฟ้‡Œ็š„ MobileAgent๏ผ‰้ƒฝๆ˜ฏ Python ๅฎž็Žฐ๏ผŒ้œ€่ฆ๏ผš

  • ๅœจ็”ต่„‘ไธŠ่ฟ่กŒ Python ่„šๆœฌ
  • ๆ‰‹ๆœบ้€š่ฟ‡ USB/WiFi ADB ่ฟžๆŽฅ็”ต่„‘
  • ๆˆชๅ›พ้€š่ฟ‡ ADB ไผ ่พ“ๅˆฐ็”ต่„‘๏ผŒๅค„็†ๅŽๅ†ๆŠŠๆ“ไฝœๆŒ‡ไปคไผ ๅ›žๆ‰‹ๆœบ

่‚‰ๅŒ…ๅฎŒๅ…จไธๅŒใ€‚

ๆˆ‘ไปฌ็”จ Kotlin ้‡ๅ†™ไบ†ๆ•ดไธช MobileAgent ๆก†ๆžถ๏ผŒๅŽŸ็”Ÿ่ฟ่กŒๅœจ Android ่ฎพๅค‡ไธŠ๏ผš

  • ๆˆชๅ›พใ€ๅˆ†ๆžใ€ๆ‰ง่กŒๅ…จ้ƒจๅœจๆ‰‹ๆœบๆœฌๅœฐๅฎŒๆˆ
  • ๆ— ้œ€็”ต่„‘ไธญ่ฝฌ๏ผŒๅปถ่ฟŸๆ›ดไฝŽ
  • ๅˆฉ็”จ Shizuku ่Žทๅพ—็ณป็ปŸ็บงๆƒ้™๏ผŒ่€Œ้ž็น็็š„ ADB ๅ‘ฝไปค

ไธบไป€ไนˆ้œ€่ฆ Shizuku๏ผŸ

Android ็ณป็ปŸๅ‡บไบŽๅฎ‰ๅ…จ่€ƒ่™‘๏ผŒๆ™ฎ้€š App ๆ— ๆณ•๏ผš

  • ๆจกๆ‹Ÿ็”จๆˆท็‚นๅ‡ปใ€ๆป‘ๅŠจๅฑๅน•
  • ่ฏปๅ–ๅ…ถไป– App ็š„็•Œ้ขๅ†…ๅฎน
  • ๆ‰ง่กŒ input tapใ€screencap ็ญ‰็ณป็ปŸๅ‘ฝไปค

ไผ ็ปŸๆ–นๆกˆ้œ€่ฆ่ฟžๆŽฅ็”ต่„‘ๆ‰ง่กŒ ADB ๅ‘ฝไปคใ€‚่€Œ Shizuku ๆ˜ฏไธ€ไธชไผ˜้›…็š„่งฃๅ†ณๆ–นๆกˆ๏ผš

  1. ้€š่ฟ‡ๆ— ็บฟ่ฐƒ่ฏ•ๆˆ–็”ต่„‘ ADB ๅฏๅŠจไธ€ๆฌก Shizuku ๆœๅŠก
  2. ไน‹ๅŽๆ™ฎ้€š App ๅฐฑๅฏไปฅ่Žทๅพ— ADB ็บงๅˆซ็š„ๆƒ้™
  3. ๆ— ้œ€ Root๏ผŒๆ— ้œ€ๆฏๆฌก้ƒฝ่ฟžๆŽฅ็”ต่„‘

่ฟ™่ฎฉ่‚‰ๅŒ…ๅฏไปฅ็›ดๆŽฅๅœจๆ‰‹ๆœบไธŠๆ‰ง่กŒๆˆชๅ›พใ€็‚นๅ‡ปใ€่พ“ๅ…ฅ็ญ‰ๆ“ไฝœ๏ผŒ็œŸๆญฃๅฎž็Žฐใ€Œไธ€ไธช App ๆžๅฎšไธ€ๅˆ‡ใ€ใ€‚

็ฑป Claude Code ็š„ Tools/Skills ๅŒๅฑ‚ๆžถๆž„

ๅ— Claude Code ๆžถๆž„ๅฏๅ‘๏ผŒ่‚‰ๅŒ…ๅฎž็Žฐไบ† Tools + Skills ๅŒๅฑ‚ Agent ๆก†ๆžถ๏ผš

็”จๆˆท: "ๅธฎๆˆ‘็‚นไปฝๅค–ๅ–"
         โ”‚
         โ–ผ
   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”
   โ”‚ SkillManager โ”‚  โ† ๆ„ๅ›พ่ฏ†ๅˆซ
   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜
         โ”‚
    โ”Œโ”€โ”€โ”€โ”€โ”ดโ”€โ”€โ”€โ”€โ”
    โ”‚         โ”‚
    โ–ผ         โ–ผ
๐Ÿš€ ๅฟซ้€Ÿ่ทฏๅพ„    ๐Ÿค– ๆ ‡ๅ‡†่ทฏๅพ„
(Delegation)  (GUI ่‡ชๅŠจๅŒ–)
    โ”‚              โ”‚
    โ–ผ              โ–ผ
็›ดๆŽฅ DeepLink   Agent ๅพช็Žฏ
ๆ‰“ๅผ€ๅฐ็พŽ AI     ๆ“ไฝœ็พŽๅ›ข App

Tools ๅฑ‚๏ผˆๅŽŸๅญ่ƒฝๅŠ›๏ผ‰

ๅบ•ๅฑ‚ๅทฅๅ…ท้›†๏ผŒๆฏไธช Tool ๅฎŒๆˆไธ€ไธช็‹ฌ็ซ‹ๆ“ไฝœ๏ผš

Tool ๅŠŸ่ƒฝ
search_apps ๆ™บ่ƒฝๆœ็ดขๅทฒๅฎ‰่ฃ…ๅบ”็”จ๏ผˆๆ”ฏๆŒๆ‹ผ้Ÿณใ€่ฏญไน‰๏ผ‰
open_app ๆ‰“ๅผ€ๅบ”็”จ
deep_link ้€š่ฟ‡ DeepLink ่ทณ่ฝฌๅˆฐ App ็‰นๅฎš้กต้ข
clipboard ่ฏปๅ†™ๅ‰ช่ดดๆฟ
shell ๆ‰ง่กŒ Shell ๅ‘ฝไปค
http HTTP ่ฏทๆฑ‚๏ผˆ่ฐƒ็”จๅค–้ƒจ API๏ผ‰

Skills ๅฑ‚๏ผˆ็”จๆˆทๆ„ๅ›พ๏ผ‰

้ขๅ‘็”จๆˆท็š„ไปปๅŠกๅฑ‚๏ผŒๅฐ†่‡ช็„ถ่ฏญ่จ€ๆ˜ ๅฐ„ๅˆฐๅ…ทไฝ“ๆ“ไฝœ๏ผš

Skill ็ฑปๅž‹ ๆ่ฟฐ
็‚นๅค–ๅ–(ๅฐ็พŽ) Delegation ็›ดๆŽฅๆ‰“ๅผ€ๅฐ็พŽ AI ่ฎฉๅฎƒๅธฎไฝ ็‚น
็‚นๅค–ๅ–(็พŽๅ›ข) GUI ่‡ชๅŠจๅŒ– ๅœจ็พŽๅ›ข App ไธŠไธ€ๆญฅๆญฅๆ“ไฝœ
ๅฏผ่ˆช(้ซ˜ๅพท) Delegation DeepLink ็›ด่พพ้ซ˜ๅพทๆœ็ดข
็”Ÿๆˆๅ›พ็‰‡(ๅณๆขฆ) Delegation ๆ‰“ๅผ€ๅณๆขฆ AI ็”Ÿๆˆๅ›พ็‰‡
ๅ‘ๅพฎไฟก GUI ่‡ชๅŠจๅŒ– ่‡ชๅŠจๆ“ไฝœๅพฎไฟกๅ‘ๆถˆๆฏ

ไธค็งๆ‰ง่กŒๆจกๅผ๏ผš

  1. Delegation๏ผˆๅง”ๆ‰˜๏ผ‰๏ผš้ซ˜็ฝฎไฟกๅบฆๅŒน้…ๆ—ถ๏ผŒ็›ดๆŽฅ้€š่ฟ‡ DeepLink ๆ‰“ๅผ€ๆœ‰ AI ่ƒฝๅŠ›็š„ App๏ผˆๅฆ‚ๅฐ็พŽใ€่ฑ†ๅŒ…ใ€ๅณๆขฆ๏ผ‰๏ผŒ่ฎฉๅฎƒไปฌๅฎŒๆˆไปปๅŠกใ€‚ๅฟซ้€Ÿใ€ไธ€ๆญฅๅˆฐไฝใ€‚

  2. GUI ่‡ชๅŠจๅŒ–๏ผšๆฒกๆœ‰ AI ่ƒฝๅŠ›็š„ App๏ผˆๅฆ‚็พŽๅ›ขใ€ๅพฎไฟก๏ผ‰๏ผŒ้€š่ฟ‡ไผ ็ปŸ็š„ๆˆชๅ›พ-ๅˆ†ๆž-ๆ“ไฝœๅพช็ŽฏๅฎŒๆˆใ€‚Skill ไผšๆไพ›ๆ“ไฝœๆญฅ้ชคๆŒ‡ๅฏผ๏ผŒๆ้ซ˜ๆˆๅŠŸ็އใ€‚


ๆ ธๅฟƒ็‰นๆ€ง

๐Ÿค– ๆ™บ่ƒฝ AI Agent

  • ๅŸบไบŽๅ…ˆ่ฟ›็š„่ง†่ง‰่ฏญ่จ€ๆจกๅž‹๏ผˆVLM๏ผ‰๏ผŒ่ƒฝๅคŸ"็œ‹ๆ‡‚"ๅฑๅน•ๅ†…ๅฎน
  • ่‡ช็„ถ่ฏญ่จ€ๆŒ‡ไปค๏ผŒ่ฏดไบบ่ฏๅฐฑ่ƒฝๆ“ไฝœๆ‰‹ๆœบ
  • ๆ™บ่ƒฝๅ†ณ็ญ–๏ผŒๆ นๆฎๅฑๅน•็Šถๆ€่‡ชๅŠจ่ง„ๅˆ’ไธ‹ไธ€ๆญฅๆ“ไฝœ

๐ŸŽจ ็ฒพๅฟƒ่ฎพ่ฎก็š„ UI

่ฟ™ๅฏ่ƒฝๆ˜ฏๆ‰€ๆœ‰ๆ‰‹ๆœบ่‡ชๅŠจๅŒ–ๅผ€ๆบ้กน็›ฎไธญ UI ๅšๅพ—ๆœ€ๅฅฝ็œ‹็š„ใ€‚

  • ็ŽฐไปฃๅŒ– Material 3 ่ฎพ่ฎก่ฏญ่จ€
  • ๆต็•…็š„ๅŠจ็”ปๆ•ˆๆžœ
  • ๆทฑ่‰ฒ/ๆต…่‰ฒไธป้ข˜่‡ช้€‚ๅบ”
  • ็ฒพๅฟƒ่ฎพ่ฎก็š„้ฆ–ๆฌกไฝฟ็”จๅผ•ๅฏผ
  • ๅฎŒๆ•ด็š„ไธญ่‹ฑๆ–‡ๅŒ่ฏญๆ”ฏๆŒ

๐Ÿ”ง ้ซ˜ๅบฆๅฏๅฎšๅˆถ

  • ๆ”ฏๆŒๅคš็ง VLM๏ผš้˜ฟ้‡Œไบ‘้€šไน‰ๅƒ้—ฎใ€OpenAI GPT-4Vใ€Claude ็ญ‰
  • ้ข„่ฎพ API ๆœๅŠกๅ•†๏ผš้˜ฟ้‡Œไบ‘ใ€OpenAIใ€OpenRouter ไธ€้”ฎๅˆ‡ๆข
  • ไปŽ API ๅŠจๆ€่Žทๅ–ๅฏ็”จๆจกๅž‹ๅˆ—่กจ๏ผŒๆ”ฏๆŒๆจก็ณŠๆœ็ดข
  • ๅฏ้…็ฝฎ่‡ชๅฎšไน‰ API ็ซฏ็‚น๏ผŒๆ”ฏๆŒๆœฌๅœฐๆจกๅž‹๏ผˆOllamaใ€vLLM ็ญ‰๏ผ‰

๐Ÿ” ๅฎ‰ๅ…จไฟๆŠค

  • API Key ไฝฟ็”จ AES-256-GCM ๅŠ ๅฏ†ๅญ˜ๅ‚จ
  • ๆฃ€ๆต‹ๅˆฐๆ”ฏไป˜ใ€ๅฏ†็ ็ญ‰ๆ•ๆ„Ÿ้กต้ข่‡ชๅŠจๅœๆญข
  • ไปปๅŠกๆ‰ง่กŒๅ…จ็จ‹ๅฏ่ง†๏ผŒๆ‚ฌๆตฎ็ช—ๆ˜พ็คบ่ฟ›ๅบฆ
  • ้šๆ—ถๅฏไปฅๆ‰‹ๅŠจๅœๆญขไปปๅŠก
  • ๅฏ้€‰็š„ไบ‘็ซฏๅดฉๆบƒไธŠๆŠฅ๏ผˆๅฏๅœจ่ฎพ็ฝฎไธญๅ…ณ้—ญ๏ผ‰

๐Ÿ”“ Root ๆจกๅผๆ”ฏๆŒ

ๅฝ“ Shizuku ไปฅ Root ๆƒ้™่ฟ่กŒๆ—ถ๏ผŒ่‚‰ๅŒ…ๅฏไปฅๅฏ็”จ Root ๆจกๅผ๏ผš

  • Root ๆจกๅผ๏ผš่งฃ้”ๆ›ดๅคš็ณป็ปŸ็บงๆ“ไฝœ่ƒฝๅŠ›
  • su ๅ‘ฝไปค๏ผšๅ…่ฎธๆ‰ง่กŒ su -c ๅ‘ฝไปค๏ผˆ้œ€่ฐจๆ…Žไฝฟ็”จ๏ผ‰
  • ่‡ชๅŠจๆฃ€ๆต‹๏ผš่‡ชๅŠจๆฃ€ๆต‹ Shizuku ๆƒ้™็ญ‰็บง๏ผˆADB/Root๏ผ‰๏ผŒ้ž Root ็Žฏๅขƒไธ‹่ฏฅ้€‰้กนไธบ็ฐ่‰ฒไธๅฏ็”จ

ๅฟซ้€Ÿๅผ€ๅง‹

ๅ‰็ฝฎ่ฆๆฑ‚

  1. Android 8.0 (API 26) ๆˆ–ๆ›ด้ซ˜็‰ˆๆœฌ
  2. WiFi ็ฝ‘็ปœ - Shizuku ๆ— ็บฟ่ฐƒ่ฏ•ไพ่ต– WiFi ่ฟžๆŽฅ๏ผŒ็กฎไฟๆ‰‹ๆœบๅทฒ่ฟžๆŽฅ WiFi
  3. Shizuku - ็”จไบŽ่Žทๅ–็ณป็ปŸ็บงๆŽงๅˆถๆƒ้™
  4. VLM API Key - ้œ€่ฆ่ง†่ง‰่ฏญ่จ€ๆจกๅž‹็š„ API ๅฏ†้’ฅ๏ผˆๅฆ‚้˜ฟ้‡Œไบ‘้€šไน‰ๅƒ้—ฎ๏ผ‰

ๅฎ‰่ฃ…ๆญฅ้ชค

1. ๅฎ‰่ฃ…ๅนถๅฏๅŠจ Shizuku

Shizuku ๆ˜ฏไธ€ไธชๅผ€ๆบๅทฅๅ…ท๏ผŒๅฏไปฅ่ฎฉๆ™ฎ้€šๅบ”็”จ่Žทๅพ— ADB ๆƒ้™๏ผŒๆ— ้œ€ Rootใ€‚

ๅฏๅŠจๆ–นๅผ๏ผˆไบŒ้€‰ไธ€๏ผ‰๏ผš

ๆ— ็บฟ่ฐƒ่ฏ•๏ผˆๆŽจ่๏ผŒ้œ€ Android 11+๏ผ‰

  1. ่ฟ›ๅ…ฅ ่ฎพ็ฝฎ > ๅผ€ๅ‘่€…้€‰้กน > ๆ— ็บฟ่ฐƒ่ฏ•
  2. ๅผ€ๅฏๆ— ็บฟ่ฐƒ่ฏ•
  3. ๅœจ Shizuku App ไธญ้€‰ๆ‹ฉ"ๆ— ็บฟ่ฐƒ่ฏ•"ๆ–นๅผๅฏๅŠจ

็”ต่„‘ ADB

  1. ๆ‰‹ๆœบ่ฟžๆŽฅ็”ต่„‘๏ผŒๅผ€ๅฏ USB ่ฐƒ่ฏ•
  2. ๆ‰ง่กŒ๏ผšadb shell sh /storage/emulated/0/Android/data/moe.shizuku.privileged.api/start.sh

2. ๅฎ‰่ฃ…่‚‰ๅŒ…

ไปŽ Releases ้กต้ขไธ‹่ฝฝๆœ€ๆ–ฐ APK ๅฎ‰่ฃ…ใ€‚

3. ๆŽˆๆƒไธŽ้…็ฝฎ

  1. ๆ‰“ๅผ€่‚‰ๅŒ… App
  2. ๅœจ Shizuku ไธญๆŽˆๆƒ่‚‰ๅŒ…
  3. โš ๏ธ ้‡่ฆ๏ผš่ฟ›ๅ…ฅ่ฎพ็ฝฎ้กต้ข๏ผŒ้…็ฝฎไฝ ็š„ API Key

่Žทๅ– API Key

้˜ฟ้‡Œไบ‘้€šไน‰ๅƒ้—ฎ๏ผˆๆŽจ่ๅ›ฝๅ†…็”จๆˆท๏ผ‰

  1. ่ฎฟ้—ฎ ้˜ฟ้‡Œไบ‘็™พ็‚ผๅนณๅฐ
  2. ๅผ€้€š DashScope ๆœๅŠก
  3. ๅœจ API-KEY ็ฎก็†ไธญๅˆ›ๅปบๅฏ†้’ฅ

OpenAI๏ผˆ้œ€่ฆไปฃ็†๏ผ‰

  1. ่ฎฟ้—ฎ OpenAI Platform
  2. ๅˆ›ๅปบ API Key

ไฝฟ็”จ็คบไพ‹

ๅธฎๆˆ‘็‚นไธช้™„่ฟ‘ๅฅฝๅƒ็š„ๆฑ‰ๅ ก
ๆ‰“ๅผ€็ฝ‘ๆ˜“ไบ‘้Ÿณไนๆ’ญๆ”พๆฏๆ—ฅๆŽจ่
ๅธฎๆˆ‘ๆŠŠๆœ€ๅŽไธ€ๅผ ็…ง็‰‡ๅ‘้€ๅˆฐๅพฎๅš
ๅธฎๆˆ‘ๅœจ็พŽๅ›ข็‚นไธ€ไปฝ็Œช่„š้ฅญ
ๆ‰“ๅผ€B็ซ™็œ‹็ƒญ้—จ่ง†้ข‘

ๆŠ€ๆœฏๆžถๆž„

โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”
โ”‚                         ่‚‰ๅŒ… App                              โ”‚
โ”œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ค
โ”‚                                                              โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                    UI ๅฑ‚ (Compose)                   โ”‚   โ”‚
โ”‚   โ”‚          HomeScreen / Settings / History            โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ”‚                            โ”‚                                 โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ–ผโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                   Skills ๅฑ‚                          โ”‚   โ”‚
โ”‚   โ”‚    SkillManager โ†’ ๆ„ๅ›พ่ฏ†ๅˆซ โ†’ ๅฟซ้€Ÿ่ทฏๅพ„/ๆ ‡ๅ‡†่ทฏๅพ„        โ”‚   โ”‚
โ”‚   โ”‚    โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”  โ”‚   โ”‚
โ”‚   โ”‚    โ”‚ ็‚นๅค–ๅ– โ”‚ ๅฏผ่ˆช โ”‚ ๆ‰“่ฝฆ โ”‚ ๅ‘ๅพฎไฟก โ”‚ AI็”ปๅ›พ โ”‚ ... โ”‚  โ”‚   โ”‚
โ”‚   โ”‚    โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜  โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ”‚                            โ”‚                                 โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ–ผโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                   Tools ๅฑ‚                           โ”‚   โ”‚
โ”‚   โ”‚    ToolManager โ†’ ๅŽŸๅญ่ƒฝๅŠ›ๅฐ่ฃ…                        โ”‚   โ”‚
โ”‚   โ”‚    โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”  โ”‚   โ”‚
โ”‚   โ”‚    โ”‚ search_apps โ”‚ open_app โ”‚ deep_link โ”‚ clipboard โ”‚  โ”‚
โ”‚   โ”‚    โ”‚ shell โ”‚ http โ”‚ screenshot โ”‚ tap โ”‚ swipe โ”‚ type โ”‚  โ”‚
โ”‚   โ”‚    โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜  โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ”‚                            โ”‚                                 โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ–ผโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                  Agent ๅฑ‚                            โ”‚   โ”‚
โ”‚   โ”‚    MobileAgent (็งปๆค่‡ช MobileAgent-v3)               โ”‚   โ”‚
โ”‚   โ”‚    โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ฌโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ฌโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ฌโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ” โ”‚   โ”‚
โ”‚   โ”‚    โ”‚  Manager  โ”‚ Executor  โ”‚ Reflector โ”‚ Notetakerโ”‚ โ”‚   โ”‚
โ”‚   โ”‚    โ”‚  (่ง„ๅˆ’)   โ”‚  (ๆ‰ง่กŒ)   โ”‚  (ๅๆ€)   โ”‚  (่ฎฐๅฝ•)  โ”‚ โ”‚   โ”‚
โ”‚   โ”‚    โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ดโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ดโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ดโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜ โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ”‚                            โ”‚                                 โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ–ผโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                  VLM Client                          โ”‚   โ”‚
โ”‚   โ”‚           Qwen-VL / GPT-4V / Claude                  โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ”‚                            โ”‚                                 โ”‚
โ”œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ผโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”ค
โ”‚                            โ–ผ                                 โ”‚
โ”‚   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”   โ”‚
โ”‚   โ”‚                    Shizuku                           โ”‚   โ”‚
โ”‚   โ”‚              System-level Control                    โ”‚   โ”‚
โ”‚   โ”‚     screencap โ”‚ input tap โ”‚ input swipe โ”‚ am start  โ”‚   โ”‚
โ”‚   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜   โ”‚
โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜

ๅทฅไฝœๆต็จ‹

็”จๆˆท่พ“ๅ…ฅๆŒ‡ไปค
      โ”‚
      โ–ผ
โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”
โ”‚  Skills ๅŒน้…     โ”‚ โ† ๆฃ€ๆŸฅๆ˜ฏๅฆๆœ‰ๅฏนๅบ”็š„ Skill
โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜
      โ”‚
      โ”œโ”€โ”€ ้ซ˜็ฝฎไฟกๅบฆ Delegation Skill โ”€โ”€โ–ถ ็›ดๆŽฅ DeepLink ่ทณ่ฝฌ โ”€โ”€โ–ถ ๅฎŒๆˆ
      โ”‚
      โ–ผ
โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”
โ”‚  ๆ ‡ๅ‡† Agent ๅพช็Žฏ โ”‚
โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜
      โ”‚
      โ–ผ
   โ”Œโ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”
   โ”‚  1. ๆˆชๅ›พ - Shizuku screencap                 โ”‚
   โ”‚  2. Manager ่ง„ๅˆ’ - VLM ๅˆ†ๆžๅฝ“ๅ‰็Šถๆ€          โ”‚
   โ”‚  3. Executor ๅ†ณ็ญ– - ็กฎๅฎšไธ‹ไธ€ๆญฅๆ“ไฝœ           โ”‚
   โ”‚  4. ๆ‰ง่กŒๅŠจไฝœ - tap/swipe/type/open_app       โ”‚
   โ”‚  5. Reflector ๅๆ€ - ่ฏ„ไผฐๆ“ไฝœๆ•ˆๆžœ            โ”‚
   โ”‚  6. ๅพช็Žฏ็›ดๅˆฐๅฎŒๆˆๆˆ–ๅฎ‰ๅ…จ้™ๅˆถ                   โ”‚
   โ””โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”€โ”˜

้กน็›ฎ็ป“ๆž„

app/src/main/java/com/roubao/autopilot/
โ”œโ”€โ”€ agent/                    # AI Agent ๆ ธๅฟƒ (็งปๆค่‡ช MobileAgent-v3)
โ”‚   โ”œโ”€โ”€ MobileAgent.kt        # Agent ไธปๅพช็Žฏ
โ”‚   โ”œโ”€โ”€ Manager.kt            # ่ง„ๅˆ’ Agent
โ”‚   โ”œโ”€โ”€ Executor.kt           # ๆ‰ง่กŒ Agent
โ”‚   โ”œโ”€โ”€ ActionReflector.kt    # ๅๆ€ Agent
โ”‚   โ”œโ”€โ”€ Notetaker.kt          # ็ฌ”่ฎฐ Agent
โ”‚   โ””โ”€โ”€ InfoPool.kt           # ็Šถๆ€ๆฑ 
โ”‚
โ”œโ”€โ”€ tools/                    # Tools ๅฑ‚ - ๅŽŸๅญ่ƒฝๅŠ›
โ”‚   โ”œโ”€โ”€ Tool.kt               # Tool ๆŽฅๅฃๅฎšไน‰
โ”‚   โ”œโ”€โ”€ ToolManager.kt        # ๅทฅๅ…ท็ฎก็†ๅ™จ
โ”‚   โ”œโ”€โ”€ SearchAppsTool.kt     # ๅบ”็”จๆœ็ดข
โ”‚   โ”œโ”€โ”€ OpenAppTool.kt        # ๆ‰“ๅผ€ๅบ”็”จ
โ”‚   โ”œโ”€โ”€ DeepLinkTool.kt       # DeepLink ่ทณ่ฝฌ
โ”‚   โ”œโ”€โ”€ ClipboardTool.kt      # ๅ‰ช่ดดๆฟๆ“ไฝœ
โ”‚   โ”œโ”€โ”€ ShellTool.kt          # Shell ๅ‘ฝไปค
โ”‚   โ””โ”€โ”€ HttpTool.kt           # HTTP ่ฏทๆฑ‚
โ”‚
โ”œโ”€โ”€ skills/                   # Skills ๅฑ‚ - ็”จๆˆทๆ„ๅ›พ
โ”‚   โ”œโ”€โ”€ Skill.kt              # Skill ๆŽฅๅฃๅฎšไน‰
โ”‚   โ”œโ”€โ”€ SkillRegistry.kt      # Skill ๆณจๅ†Œ่กจ
โ”‚   โ””โ”€โ”€ SkillManager.kt       # Skill ็ฎก็†ๅ™จ
โ”‚
โ”œโ”€โ”€ controller/               # ่ฎพๅค‡ๆŽงๅˆถ
โ”‚   โ”œโ”€โ”€ DeviceController.kt   # Shizuku ๆŽงๅˆถๅ™จ
โ”‚   โ””โ”€โ”€ AppScanner.kt         # ๅบ”็”จๆ‰ซๆ (ๆ‹ผ้Ÿณ/่ฏญไน‰ๆœ็ดข)
โ”‚
โ”œโ”€โ”€ vlm/                      # VLM ๅฎขๆˆท็ซฏ
โ”‚   โ””โ”€โ”€ VLMClient.kt          # API ่ฐƒ็”จๅฐ่ฃ…
โ”‚
โ”œโ”€โ”€ ui/                       # ็”จๆˆท็•Œ้ข
โ”‚   โ”œโ”€โ”€ screens/              # ๅ„ไธช้กต้ข
โ”‚   โ”œโ”€โ”€ theme/                # ไธป้ข˜ๅฎšไน‰
โ”‚   โ””โ”€โ”€ OverlayService.kt     # ๆ‚ฌๆตฎ็ช—ๆœๅŠก
โ”‚
โ”œโ”€โ”€ data/                     # ๆ•ฐๆฎๅฑ‚
โ”‚   โ””โ”€โ”€ SettingsManager.kt    # ่ฎพ็ฝฎ็ฎก็†
โ”‚
โ””โ”€โ”€ App.kt                    # Application ๅ…ฅๅฃ

app/src/main/assets/
โ””โ”€โ”€ skills.json               # Skills ้…็ฝฎๆ–‡ไปถ

่ทฏ็บฟๅ›พ

ๅทฒๅฎŒๆˆ (v1.x)

  • ๅŽŸ็”Ÿ Android ๅฎž็Žฐ - Kotlin ้‡ๅ†™ MobileAgent๏ผŒๆ‘†่„ฑ Python ไพ่ต–
  • Tools ๅฑ‚ - ๅŽŸๅญ่ƒฝๅŠ›ๅฐ่ฃ…๏ผˆsearch_appsใ€deep_linkใ€clipboard ็ญ‰๏ผ‰
  • Skills ๅฑ‚ - ็”จๆˆทๆ„ๅ›พๆ˜ ๅฐ„๏ผŒๆ”ฏๆŒ Delegation ๅ’Œ GUI ่‡ชๅŠจๅŒ–ไธค็งๆจกๅผ
  • ๆ™บ่ƒฝๅบ”็”จๆœ็ดข - ๆ‹ผ้Ÿณใ€่ฏญไน‰ใ€ๅˆ†็ฑปๅคš็ปดๅบฆๅŒน้…
  • ๅฟซ้€Ÿ่ทฏๅพ„ - ้ซ˜็ฝฎไฟกๅบฆ Skill ็›ดๆŽฅ DeepLink ่ทณ่ฝฌ

๐Ÿš€ v2.0 ๅผ€ๅ‘ไธญ

ๆญฃๅœจๅผ€ๅ‘็š„้‡ๅคงๆ›ดๆ–ฐ๏ผŒ็›ฎๅ‰ๅœจ roubao2.0+AccessibilityService ๅˆ†ๆ”ฏ

  • ๆ— ้šœ็ขๆœๅŠกๆททๅˆๆจกๅผ - ้›†ๆˆ AccessibilityService๏ผŒๅฎž็Žฐๆ›ด็ฒพๅ‡†็š„ UI ๆ“ไฝœ

    • ไผ˜ๅ…ˆไฝฟ็”จๅ…ƒ็ด ็ดขๅผ•็‚นๅ‡ป๏ผˆไธๅ—ๅฑๅน•ๅ˜ๅŒ–ๅฝฑๅ“๏ผ‰
    • ๆ™บ่ƒฝๅ›ž้€€๏ผš็ดขๅผ•ๆจกๅผๅคฑ่ดฅๆ—ถ่‡ชๅŠจๅˆ‡ๆขๅˆฐๅๆ ‡ๆจกๅผ
    • ๆ— ้œ€ Root๏ผŒ่ฟ›ไธ€ๆญฅ้™ไฝŽไฝฟ็”จ้—จๆง›
  • UI ๆ ‘ๆ„Ÿ็Ÿฅ - Agent ่ƒฝๅคŸ่Žทๅ–ๅฎŒๆ•ด็š„ UI ็ป“ๆž„

    • ่ฏ†ๅˆซๅฏ็‚นๅ‡ปๅ…ƒ็ด ใ€่พ“ๅ…ฅๆก†ใ€ๆปšๅŠจๅŒบๅŸŸ
    • ไธบ LLM ๆไพ›็ป“ๆž„ๅŒ– UI ไธŠไธ‹ๆ–‡
    • ๅ‡ๅฐ‘็บฏ่ง†่ง‰่ฏฏๅˆค
  • ๅฎ่„šๆœฌ็ณป็ปŸ - ๅฝ•ๅˆถใ€ๅญ˜ๅ‚จใ€ๅ›žๆ”พๆ“ไฝœๅบๅˆ—

    • ๅฐ†ๆ‰ง่กŒ่ฟ‡็จ‹ๅฝ•ๅˆถไธบๅฏ้‡ๅคๆ’ญๆ”พ็š„่„šๆœฌ
    • ๆ”ฏๆŒๅพช็Žฏๆ’ญๆ”พใ€ๅปถๆ—ถๆŽงๅˆถ
    • ่„šๆœฌ็ฎก็†็•Œ้ข๏ผˆๆ–ฐๅขž"่„šๆœฌ"ๅฏผ่ˆช้กต๏ผ‰
  • ่ฎพ็ฝฎๅขžๅผบ

    • ๆ— ้šœ็ขๆœๅŠกๅผ€ๅ…ณไธŽๅผ•ๅฏผ
    • ๆททๅˆๆจกๅผ็Šถๆ€ๅฑ•็คบ

่ฟ‘ๆœŸ่ฎกๅˆ’

  • MCP (Model Context Protocol) - ๆŽฅๅ…ฅๆ›ดๅคš่ƒฝๅŠ›ๆ‰ฉๅฑ•๏ผŒๅฆ‚ๆ—ฅๅކใ€้‚ฎไปถใ€ๆ–‡ไปถ็ฎก็†็ญ‰
  • ๆ‰ง่กŒๅฝ•ๅฑ - ไฟๅญ˜ไปปๅŠกๆ‰ง่กŒ่ฟ‡็จ‹่ง†้ข‘๏ผŒๆ–นไพฟๅ›ž้กพๅ’Œ่ฐƒ่ฏ•
  • ๆ›ดๅคš Skills - ๆ‰ฉๅ……ๅ†…็ฝฎ Skills๏ผŒๆ”ฏๆŒ็”จๆˆท่‡ชๅฎšไน‰

ไธญๆœŸ่ฎกๅˆ’

  • ๆ›ดๅคš่ฎพๅค‡ๆ”ฏๆŒ - ้€‚้…ๆ›ดๅคš Android ่ฎพๅค‡ๅ’Œๅฎšๅˆถ็ณป็ปŸ๏ผˆMIUIใ€ColorOSใ€HarmonyOS ็ญ‰๏ผ‰
  • ๆœฌๅœฐๆจกๅž‹ - ๆ”ฏๆŒๅœจ่ฎพๅค‡็ซฏ่ฟ่กŒๅฐๅž‹ VLM๏ผŒๅฎž็Žฐ็ฆป็บฟไฝฟ็”จ
  • ไปปๅŠกๆจกๆฟ - ไฟๅญ˜ๅ’Œๅˆ†ไบซๅธธ็”จไปปๅŠก

้•ฟๆœŸๆ„ฟๆ™ฏ

  • ๅคšๅบ”็”จๅไฝœ - ่ทจ App ่”ๅŠจๅฎŒๆˆๅคๆ‚ๅทฅไฝœๆต
  • ๆ™บ่ƒฝๅญฆไน  - ไปŽ็”จๆˆทๆ“ไฝœไน ๆƒฏไธญๅญฆไน ๏ผŒไผ˜ๅŒ–ๆ‰ง่กŒ็ญ–็•ฅ
  • ่ฏญ้ŸณๆŽงๅˆถ - ่ฏญ้Ÿณๅ”ค้†’ๅ’Œ่ฏญ้ŸณๆŒ‡ไปค

ๅผ€ๅ‘

็Žฏๅขƒ่ฆๆฑ‚

  • Android Studio Hedgehog ๆˆ–ๆ›ด้ซ˜็‰ˆๆœฌ
  • JDK 17
  • Android SDK 34

ๆž„ๅปบ

# ๅ…‹้š†ไป“ๅบ“
git clone https://github.com/yourusername/roubao.git
cd roubao

# ๆž„ๅปบ Debug ็‰ˆๆœฌ
./gradlew assembleDebug

# ๅฎ‰่ฃ…ๅˆฐ่ฎพๅค‡
./gradlew installDebug

้—ฎ้ข˜ๅ้ฆˆ

้‡ๅˆฐๅดฉๆบƒๆˆ– Bug๏ผŸ่ฏท้€š่ฟ‡ไปฅไธ‹ๆ–นๅผๅ้ฆˆ๏ผš

ๅฏผๅ‡บๆ—ฅๅฟ—

  1. ๆ‰“ๅผ€่‚‰ๅŒ… App โ†’ ่ฎพ็ฝฎ
  2. ๆ‰พๅˆฐใ€Œๅ้ฆˆไธŽ่ฐƒ่ฏ•ใ€ๅˆ†็ป„
  3. ็‚นๅ‡ปใ€Œๅฏผๅ‡บๆ—ฅๅฟ—ใ€
  4. ้€‰ๆ‹ฉๅˆ†ไบซๆ–นๅผ๏ผˆๅพฎไฟกใ€้‚ฎไปถ็ญ‰๏ผ‰ๅ‘้€็ป™ๅผ€ๅ‘่€…

ๆ—ฅๅฟ—ๅŒ…ๅซ็š„ไฟกๆฏ

  • ่ฎพๅค‡ๅž‹ๅทๅ’Œ Android ็‰ˆๆœฌ
  • ๅบ”็”จ็‰ˆๆœฌๅท
  • ๅดฉๆบƒๅ †ๆ ˆไฟกๆฏ๏ผˆๅฆ‚ๆœ‰๏ผ‰
  • ๆ“ไฝœๆ—ฅๅฟ—

๐Ÿ’ก ๆ—ฅๅฟ—ๆ–‡ไปถไธๅŒ…ๅซๆ‚จ็š„ API Key ๆˆ–ไธชไบบ้š็งไฟกๆฏ

ๆไบค Issue

่ฏทๅœจ GitHub Issues ๆไบค้—ฎ้ข˜๏ผŒ้™„ไธŠ๏ผš

  • ้—ฎ้ข˜ๆ่ฟฐ
  • ๅค็Žฐๆญฅ้ชค
  • ๅฏผๅ‡บ็š„ๆ—ฅๅฟ—ๆ–‡ไปถ

่ดก็Œฎ

ๆฌข่ฟŽๆไบค Issue ๅ’Œ Pull Request๏ผ

  1. Fork ๆœฌไป“ๅบ“
  2. ๅˆ›ๅปบ็‰นๆ€งๅˆ†ๆ”ฏ (git checkout -b feature/amazing-feature)
  3. ๆไบคๆ›ดๆ”น (git commit -m 'Add some amazing feature')
  4. ๆŽจ้€ๅˆฐๅˆ†ๆ”ฏ (git push origin feature/amazing-feature)
  5. ๅผ€ๅฏ Pull Request

่ฎธๅฏ่ฏ

ๆœฌ้กน็›ฎๅŸบไบŽ MIT ่ฎธๅฏ่ฏๅผ€ๆบใ€‚่ฏฆ่ง LICENSE ๆ–‡ไปถใ€‚


่‡ด่ฐข

  • MobileAgent - ้˜ฟ้‡Œ่พพๆ‘ฉ้™ข X-PLUG ๅ›ข้˜Ÿๅผ€ๆบ็š„็งปๅŠจ็ซฏ Agent ๆก†ๆžถ๏ผŒไธบๆœฌ้กน็›ฎๆไพ›ไบ†้‡่ฆ็š„ๆŠ€ๆœฏๅ‚่€ƒ
  • Shizuku - ไผ˜็ง€็š„ Android ๆƒ้™็ฎก็†ๆก†ๆžถ

Made with โค๏ธ by Roubao Team

About

Android Automation Tool Based on Vision-Language Models

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Kotlin 100.0%