Meta เปิดตัว NotebookLlama ซึ่งเป็นชุด Python Notebook ที่สามารถแปลงเอกสารให้กลายเป็นพอดแคสต์ได้เหมือนกับบริการ NotebookLM ของกูเกิล โครงการนี้ใช้ LLM สามชั้น โดยเริ่มจากการใช้ Llama 3.2 8B เพื่อแปลง PDF เป็นเอกสารที่อ่านง่าย จากนั้นจะใช้ Llama 3.1 70B เขียนสคริปต์พอดแคสต์ และสุดท้ายใช้ Llama 3.1 8B แปลงสคริปต์ให้มีชีวิตชีวามากขึ้น ก่อนจะแปลงเป็นเสียงพอดแคสต์ ทั้งนี้ Llama 3.1 70B ต้องการหน่วยความจำกราฟิกมากกว่า 140GB จึงมักใช้งานผ่านคลาวด์
ความสามารถในการสรุปรวมเอกสารทั้งชุดให้กลายเป็นพอดแคสต์
บริการ NotebookLM ของกูเกิลได้รับความนิยมค่อนข้างดีในช่วงหลัง เนื่องจากความสามารถในการสรุปรวมเอกสารทั้งชุดให้กลายเป็นพอดแคสต์ โดยไม่ต้องเสียเวลาอ่านทั้งหมด ล่าสุดฝั่ง Meta ก็ได้เปิดตัวโครงการ NotebookLlama ที่มีความสามารถคล้ายคลึงกัน
LLM สามชั้น
NotebookLlama ใช้ LLM สามชั้น โดยชั้นแรกใช้ Llama 3.2 8B เพื่อแปลง PDF เป็นเอกสารที่อ่านได้ง่ายขึ้น จากนั้นใช้ Llama 3.1 70B เขียนสคริปต์พอดแคสต์ และสุดท้ายใช้ Llama 3.1 8B แปลงสคริปต์ให้มีความน่าสนใจและเร้าใจมากขึ้น ก่อนจะแปลงเป็นเสียงพอดแคสต์
ข้อจำกัดของ Llama 3.1 70B
แม้ว่าในทางทฤษฎี โมเดล LLM เหล่านี้จะสามารถรันในองค์กรได้ แต่ Llama 3.1 70B ก็ต้องการหน่วยความจำกราฟิกขนาดใหญ่มากกว่า 140GB จึงมักใช้งานผ่านคลาวด์กันอยู่ดี
สรุป
โครงการ NotebookLlama ของ Meta เป็นอีกตัวเลือกที่น่าสนใจสำหรับผู้ที่ต้องการแปลงเอกสารให้กลายเป็นพอดแคสต์ โดยใช้ LLM สามชั้นเพื่อให้ได้ผลลัพธ์ที่มีคุณภาพ แม้ว่าจะมีข้อจำกัดเรื่องความต้องการหน่วยความจำกราฟิกขนาดใหญ่ของ Llama 3.1 70B ก็ตาม
