Go Llm สำหรับ การเขียนโค้ด AI

Go LLM: เซิร์ฟเวอร์โปรโตคอลบริบทที่ใช้โมเดล Go สำหรับการรวม AI

Go LLM ซึ่งพัฒนาโดย Mutablelogic สำหรับแพลตฟอร์ม mcp เป็นเครื่องมือเซิร์ฟเวอร์ Model Context Protocol (MCP) ฟรีที่สร้างด้วย Go (Golang) มันช่วยให้นักพัฒนาสามารถโต้ตอบกับผู้ให้บริการโมเดลภาษาใหญ่ต่างๆ และบริการภายนอกผ่านทางอินเทอร์เฟซที่รวมเป็นหนึ่งเดียว โปรแกรมนี้มีการแจกจ่ายผ่าน Docker images, ไบนารีแบบสแตนด์อโลน, การสร้างจากซอร์ส และในฐานะโมดูล Go สำหรับ SDK ของมัน มันมีเป้าหมายเพื่อทำให้การพัฒนาแอปพลิเคชันที่ขับเคลื่อนด้วย AI ง่ายขึ้นโดยการรวมการโต้ตอบกับ LLM และการใช้เครื่องมือไว้ในที่เดียว.

Go LLM เชื่อมต่อกับอะไร?

Go LLM เชื่อมต่อกับผู้ให้บริการโมเดลภาษาใหญ่ที่หลากหลาย รวมถึง Google Gemini, Anthropic Claude, และ Mistral นอกจาก LLM แล้ว ยังรวมเข้ากับบริการภายนอกผ่านกรอบเครื่องมือที่ขยายได้ การรวมนี้รวมถึง Home Assistant, NewsAPI, และ WeatherAPI การออกแบบนี้ช่วยให้โปรแกรมขยายความสามารถโดยการรวมข้อมูลและการกระทำในโลกจริงเข้ากับการทำงานของ AI มันทำหน้าที่เป็นศูนย์กลางสำหรับแหล่งข้อมูล AI และข้อมูลภายนอกที่หลากหลาย.

ฟีเจอร์หลักและเครื่องมือ

Go LLM เปิดเผยเครื่องมือที่เรียกใช้ได้หลายรายการ CLI ของมันให้คำสั่งเช่น "llm ask", "llm chat", "llm providers", "llm models", "llm create-agent", และ "llm run-agent" เซิร์ฟเวอร์ HTTP API มี REST endpoints สำหรับ /models, /sessions, /tools, /chat, /ask, และ /embeddings นอกจากนี้ Go SDK จาก "pkg/manager" ยังรวมฟังก์ชันเช่น Ask, CallTool, Chat, และ CreateAgent ซึ่งช่วยให้สามารถโต้ตอบโปรแกรมได้โดยตรงภายในแอปพลิเคชัน Go.

ใครคือผู้ใช้?

Go LLM มุ่งเป้าไปที่นักพัฒนาที่ต้องการรวมเข้ากับผู้ให้บริการ LLM หลายรายหรือสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย AI โดยใช้ Go การออกแบบของมันสนับสนุนการโต้ตอบที่เป็นเอกภาพกับ LLM ที่แตกต่างกันและการสร้างตัวแทน AI ที่ใช้เครื่องมือภายนอก มันยังช่วยในการจัดการการสนทนาที่มีสถานะและหลายเทิร์น โปรแกรมนี้เหมาะสำหรับผู้ที่สร้างโซลูชัน AI ที่ซับซ้อนซึ่งต้องการการรวมที่หลากหลาย ข้ามไปถ้าการพัฒนาของคุณไม่เกี่ยวข้องกับ Go หรือผู้ให้บริการ LLM หลายราย.

เริ่มต้นอย่างไร

เซิร์ฟเวอร์ทำการตรวจสอบสิทธิ์โดยใช้ API key ที่ส่งเป็นตัวแปรสภาพแวดล้อม หรือ OAuth2 พร้อมการรีเฟรชโทเค็นอัตโนมัติ API keys สำหรับผู้ให้บริการ LLM ขึ้นต้น เช่น GEMINI_API_KEY จะถูกจัดเตรียมเป็นตัวแปรสภาพแวดล้อม.

กรณีการใช้งาน

• การโต้ตอบ LLM ที่เป็นเอกภาพ: ใช้ส่วนติดต่อเดียว (CLI, HTTP API, หรือ Go SDK) สำหรับการส่งคำถามและการตอบกลับจากผู้ให้บริการ LLM ที่หลากหลาย (เช่น Gemini, Claude).
• การสร้างตัวแทน AI ที่ใช้เครื่องมือ: สร้างการกำหนดงานที่สามารถนำกลับมาใช้ใหม่ (ตัวแทน) ที่ใช้เครื่องมือภายนอก (เช่น Home Assistant หรือ NewsAPI) สำหรับการดำเนินการที่ซับซ้อน.
• การสนทนาหลายเทิร์นที่มีสถานะ: จัดการเซสชันแชทที่คงอยู่สำหรับการโต้ตอบที่ต่อเนื่องและมีบริบทกับ LLMs ในหลายเทิร์น.

Go LLM ให้โซลูชันที่มุ่งเน้น Go สำหรับการเชื่อมต่อกับผู้ให้บริการ LLM และบริการภายนอกต่างๆ มันรองรับวิธีการโต้ตอบที่หลากหลาย รวมถึง CLI, HTTP API, และ Go SDK ทำให้มันปรับตัวได้ตามความต้องการในการพัฒนาที่แตกต่างกัน โครงสร้างตัวแทนของโปรแกรมและความสามารถในการจัดการการสนทนาหลายรอบเพิ่มประสิทธิภาพการใช้งานสำหรับแอปพลิเคชัน AI ที่ซับซ้อน ลองสร้างตัวแทน AI ที่ใช้เครื่องมือ NewsAPI.