飞道的博客

ChatGPT官方API可以抢先体验了

1208人阅读  评论(0)

        ChatGPT官方API目前还在内测当中,OpenAI官网上也没有任何接口介绍和文档。这对于开发和调用来说不怎么方便。但是,比较好的地方在于内测过程中调用是免费的,没有次数限制。此外,API接口调用不需要梯子或代理(使用代理反而可能会报错“Error communicating with OpenAI”),只需要API Key就可以了,且当前API Key使用免费

        尽管ChatGPT 官方API还在内测而没有使用文档,但我们知道该模型应该也属于文本补全模型(completion),与GPT3模型保持一致。我们可以类比GPT3模型来猜测其调用方式,然后得出ChatGPT模型调用方式。

1 GPT3模型调用

        现有大多数ChatGPT API实际上是OpenAI GPT3模型接口,模型名称为“text-davinci-003”,调用费用为0.02美元/1000tokens,折合下来差不多0.1元400~500字。这个字数包括问题和返回结果字数。

GPT3模型调用方式如下,输入主要有7个参数:

  1. model:模型名称,text-davinci-003
  2. prompt:问题或待补全内容,例如“how are you”。
  3. temperature:控制结果随机性,0.0表示结果固定,随机性大可以设置为0.9。
  4. max_tokens:最大返回字数(包括问题和答案),通常汉字占两个token。假设设置成100,如果prompt问题中有40个汉字,那么返回结果中最多包括10个汉字。
  5. top_p:设置为1即可。
  6. frequency_penalty:设置为0即可。
  7. presence_penalty:设置为0即可。

  
  1. import openai
  2. openai.api_key = "你的API Key"
  3. response = openai.Completion.create(
  4.   model= "text-davinci-003",
  5.   prompt= "how are you",
  6.   temperature= 0.7,
  7.   max_tokens= 256,
  8.   top_p= 1,
  9.   frequency_penalty= 0,
  10.   presence_penalty= 0
  11. )
  12. print(response)

        返回结果如下所示,结果在text字段中,可通过response["choices"][0]["text"]进行读取。


  
  1. {
  2.    "id": "cmpl-uqkvlQyYK7bGYrRHQ0eXlWi7",
  3.    "object": "text_completion",
  4.    "created": 1589478378,
  5.    "model": "text-davinci-003",
  6.    "choices": [
  7.     {
  8.        "text": "\n\nThis is indeed a test",
  9.        "index": 0,
  10.        "logprobs": null,
  11.        "finish_reason": "length"
  12.     }
  13.   ],
  14.    "usage": {
  15.      "prompt_tokens": 5,
  16.      "completion_tokens": 7,
  17.      "total_tokens": 12
  18.   }
  19. }

2 ChatGPT API调用方式

        ChatGPT API接口模型估计是2023年1月26日开始内测的,从它的模型名称就可以看出来。其调用方式如下所示,与GPT3模型调用基本一致,各个参数可参考上文介绍。下面各个参数目前是类比猜测出来的,没有conversation_id之类的。后续,如果新的参数更新,将在本文中及时进行更新,敬请关注


  
  1. import openai
  2. openai.api_key = "你的APIKey"
  3. response = openai.Completion.create(
  4.   model= "请关注“乐乐感知学堂”公众号,公众号内输入“名称”即可获得模型名称。",
  5.   prompt= "请用100字中文介绍RdChat。",
  6.   temperature= 0,
  7.   max_tokens= 50,
  8.   stream= False, #请注意查看下文说明。
  9.   top_p= 1,
  10.   frequency_penalty= 0,
  11.   presence_penalty= 0
  12. )

ChatGPT API允许的最大token数量为4097,即max_tokens最大设置为4097减去prompt问题的token数量。

需要注意,上述输入参数增加stream,即是否采用控制流的方式输出

  1. 如果stream取值为False,那么返回结果与第1节GPT3接口一致,完全返回全部文字结果,可通过response["choices"][0]["text"]进行读取。但是,字数越多,等待返回时间越长,时间可参考控制流读出时的4字/每秒。
  2. 如果steam取值为True时,那么返回结果是一个Python generator,需要通过迭代获取结果,平均大约每秒钟4个字(33秒134字,39秒157字),读取程序如下所示。可以看到,读取结果的结束字段为“<|im_end|>”。

  
  1. res = ''
  2. for r in response:
  3.     res += r[ "choices"][ 0][ "text"]
  4. res = res.replace( '<|im_end|>', '')
  5. print(res)

3 ChatGPT API接口效果

        下图为调用结果效果图。后续,如果新的参数更新,将在本文中及时进行更新,敬请关注。


转载:https://blog.csdn.net/suiyingy/article/details/128844721
查看评论
* 以上用户言论只代表其个人观点,不代表本网站的观点或立场