Amazon ย้ายปัญญาประดิษฐ์ Alexa ไปรันบนชิป AWS Inferentia ระบุหน่วงลดลง 25% ถูกลง 30%

หัวข้อกระทู้ ใน 'เทคโนโลยี' เริ่มโพสต์โดย iPokz, 15 พฤศจิกายน 2020.

  1. iPokz

    iPokz ~" iPokz "~ Staff Member

    Amazon ประกาศว่าปัญญาประดิษฐ์ Alexa ย้ายโหลดงานปัญญาประดิษฐ์ที่เดิมรันอยู่บนชิปกราฟิกไปรันบนชิป AWS Interentia ที่เปิดตัวมาตั้งแต่ปี 2018 และให้บริการเป็นเครื่อง EC2 Inf1 ในปี 2019 เกือบทั้งหมดแล้ว

    Alexa ฝังอยู่ในลำโพง Echo และแท็บเล็ต Kindle Fire ทำให้ผู้ใช้สามารถสั่งงานอุปกรณ์ในบ้านและติดต่อกับบริการของ Amazon ได้โดยสั่งด้วยเสียง โดยตอนนี้มีอุปกรณ์รองรับ Alexa กว่าร้อยล้านชิ้นแล้ว โดยปัญญาประดิษฐ์ที่ Alexa ใช้มีสามส่วนหลักคือการแปลงเสียงเป็นข้อความ (automatic speech recognition - ASR) และทำความเข้าใจคำสั่งของผู้ใช้ (natural language understanding - NLU) จากนั้น Alexa จะส่งคำตอบเป็นข้อความและใช้ปัญญาประดิษฐ์สร้างเสียงพูด (text-to-speech - TTS)

    ก่อนหน้านี้ Alexa รันบนเครื่อง EC2 G4 ที่ใช้ชิป Intel Cascade Lake และการ์ดกราฟิก NVIDIA T4 การย้ายมาใช้ EC2 Inf1 ทำให้ Alexa มี latency ลดลงทั้งระบบ 25% ขณะที่ราคาต่อการประมวลผลปัญญาประดิษฐ์ก็ลดลง 30%

    ที่มา - AWS

    [​IMG]

    Topics: AmazonArtificial IntelligenceAlexa
     

แบ่งปันหน้านี้