A20 Pro โชว์พลัง On-Device AI รันโมเดล 27B บน iPhone 18 Pro ได้เร็วกว่า A19 Pro 2 เท่า

A20 Pro ของ Apple ถูกนำมาทดสอบกับงาน On-Device AI โดย iPhone 18 Pro สามารถรันโมเดล AI ขนาด 27 พันล้านพารามิเตอร์ หรือ 27B บนอุปกรณ์ได้โดยไม่ต้องพึ่งพาการประมวลผลจาก Cloud

การสาธิตโดย Adrien Grondin ใช้โมเดล Bonsai 27B และพบว่า iPhone 18 Pro สามารถสร้าง Token ได้เร็วประมาณ 2 เท่าเมื่อเทียบกับ iPhone 17 Pro ที่ใช้ A19 Pro

หนึ่งในปัจจัยสำคัญคือ A20 Pro มาพร้อม Dual 16-Core Neural Engine ซึ่งถูกออกแบบมาเพื่อเร่งการประมวลผล AI โดยเฉพาะ

ด้านหน่วยความจำ iPhone 18 Pro และ iPhone 18 Pro Max ใช้ 12GB 96-bit LPDDR5X พร้อมแบนด์วิดท์หน่วยความจำแบบ Unified Memory สูงถึง 115.2GB/s ซึ่งเป็นอีกส่วนสำคัญต่อการรันโมเดล AI ขนาดใหญ่

อย่างไรก็ตาม ข้อจำกัดของหน่วยความจำยังคงเป็นปัจจัยสำคัญ โดย Bonsai 2 ที่ใช้ 2-bit Quantization มีขนาดใหญ่เกินกว่าจะทำงานบน iPhone 18 Pro ได้อย่างเหมาะสม ส่งผลให้เกิดข้อจำกัดด้านประสิทธิภาพ

ในทางกลับกัน Bonsai ซึ่งใช้ 1-bit Quantization สามารถทำงานบนอุปกรณ์ที่มี RAM 4GB ได้ และเมื่อทำงานบน iPhone 18 Pro ที่มี RAM 12GB พร้อม A20 Pro และหน่วยความจำความเร็วสูง จึงสามารถแสดงประสิทธิภาพของ On-Device AI ได้อย่างเต็มที่มากขึ้น

การทดลองดังกล่าวสะท้อนให้เห็นว่า Neural Engine และ Memory Bandwidth กำลังกลายเป็นองค์ประกอบสำคัญสำหรับการนำโมเดล AI ขนาดใหญ่ขึ้นมาประมวลผลโดยตรงบนสมาร์ทโฟน

ทั้งนี้ ข้อมูลและตัวเลขประสิทธิภาพดังกล่าวมาจากการสาธิตของ Adrien Grondin ไม่ใช่ผลทดสอบมาตรฐานจาก Apple โดยตรง

ที่มา: Adrien Grondin