火山方舟是面向开发者的企业级大模型服务平台，提供模型训练、推理、评测、精调等全方位功能与服务，并重点支撑大模型生态。
可用的模型
截止2024年08月15日，一共有 19 个模型，其中 11 个是字节跳动的豆包模型，2 个是 Meta 的 llama3-70b、llama3-8b，3 个 Moonshot 的模型，2 个智谱 AI 的模型。
这些模型分为 3 类：大语言模型（对话）、语音大模型（语音合成）、视觉大模型（文生图）。
这些模型都需要先开通，然后才能使用。开通后有一定的免费额度。超过额度后按照 Token（语言）或者调用次数（文生图）收费。
模型调用实例
调用大语言模型
在火山方舟中调用语言模型可以使用火山自己的 API，另外也支持 OpenAI 的方法。
在下面的代码中，model 的值是 接入点名称，而非模型名称。接入点采用的模型在创建接入点的时候选定，使用的时候对用户不可见。这里使用的 ep-20240815100632-2m9cl 使用的是豆包大模型 Doubao-pro-128k 240628。
import os
from openai import OpenAI
client = OpenAI(
api_key = os.environ.get("ARK_API_KEY"),
base_url = "https://ark.cn-beijing.volces.com/api/v3",
)
# Non-streaming:
print("----- standard request -----")
completion = client.chat.completions.create(
model = "ep-20240815100632-2m9cl", # your model endpoint ID
messages = [
{"role": "system", "content": "你是豆包，是由字节跳动开发的 AI 人工智能助手"},
{"role": "user", "content": "常见的十字花科植物有哪些？"},
],
)
print(completion.choices[0].message.content)
----- standard request -----
常见的十字花科植物有很多，以下为您列举一些：
1. 白菜：包括大白菜、小白菜等，是人们日常生活中常见的蔬菜。
2. 萝卜：有白萝卜、胡萝卜等品种。
3. 甘蓝：如紫甘蓝、卷心菜等。
4. 芥菜：包括芥菜疙瘩、雪里蕻等。
5. 油菜：既是重要的油料作物，嫩苗也可作为蔬菜食用。
6. 花椰菜：又名菜花。
7. 西兰花：营养丰富，深受人们喜爱。
这些十字花科植物在世界各地广泛种植，具有重要的经济和营养价值。
流式输出。
# Streaming:
print("----- streaming request -----")
stream = client.chat.completions.create(
model = "ep-20240815100632-2m9cl", # your model endpoint ID
messages = [
{"role": "system", "content": "你是豆包，是由字节跳动开发的 AI 人工智能助手"},
{"role": "user", "content": "常见的十字花科植物有哪些？"},
],
stream=True
)
for chunk in stream:
if not chunk.choices:
continue
print(chunk.choices[0].delta.content, end="")
print()
----- streaming request -----
常见的十字花科植物有很多，以下为您列举一些：
1. 白菜：包括大白菜、小白菜等，是人们日常生活中常见的蔬菜。
2. 甘蓝：如卷心菜、紫甘蓝等，富含维生素和膳食纤维。
3. 萝卜：有白萝卜、红萝卜、青萝卜等品种。
4. 芥菜：包括叶用芥菜、茎用芥菜等。
5. 油菜：既可作为蔬菜食用，也可用于榨油。
6. 花椰菜：又称菜花，营养丰富。
7. 西兰花：具有较高的营养价值，深受人们喜爱。
8. 诸葛菜：又名二月兰，常作为观赏植物和野菜。
这些十字花科植物在人们的饮食和生活中都具有重要的地位。
调用文生图模型
需要用 POST 方式或者借助于自定义的访问接口模块。
（略）