pplx-api പരിചയപ്പെടുത്തുന്നു

ദയവായി ശ്രദ്ധിക്കുക: നിലവിലെ മോഡലുകൾക്കായി താഴെ പറയുന്നവ ഒഴിവാക്കപ്പെട്ടിരിക്കുന്നു. ഞങ്ങളുടെ API-കളെക്കുറിച്ച് കൂടുതലറിയുക

Mistral 7B, Llama2 13B, Code Llama 34B, Llama2 70B, replit-code-v1.5-3b എന്നീ മോഡലുകൾ ആക്സസ് ചെയ്യുന്നതിനുള്ള ഏറ്റവും വേഗതയേറിയ വഴികളിലൊന്നായി രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്ന pplx-api പ്രഖ്യാപിക്കുന്നതിൽ ഞങ്ങൾക്ക് സന്തോഷമുണ്ട്. ഡെവലപ്പർമാർക്ക് അത്യാധുനിക ഓപ്പൺ സോഴ്സ് LLM-കൾ അവരുടെ പ്രോജക്റ്റുകളിൽ സംയോജിപ്പിക്കുന്നത് pplx-api എളുപ്പമാക്കുന്നു.

ഞങ്ങളുടെ pplx-api നൽകുന്നത്:

ഉപയോഗ എളുപ്പം: ഡെവലപ്പർമാർക്ക് അത്യാധുനിക ഓപ്പൺ സോഴ്സ് മോഡലുകൾ തയ്യാറായി ഉപയോഗിക്കാനും പരിചിതമായ ഒരു REST API ഉപയോഗിച്ച് മിനിറ്റുകൾക്കുള്ളിൽ ആരംഭിക്കാനും കഴിയും.

അതിവേഗ ഇൻഫറൻസ്: ഞങ്ങളുടെ ചിന്താപൂർവ്വം രൂപകൽപ്പന ചെയ്‌ത ഇൻഫറൻസ് സിസ്റ്റം കാര്യക്ഷമമാണ് കൂടാതെ Replicate-നേക്കാൾ 2.9x കുറഞ്ഞ ലേറ്റൻസിയും Anyscale-നേക്കാൾ 3.1x കുറഞ്ഞ ലേറ്റൻസിയും കൈവരിക്കുന്നു.

പരീക്ഷിച്ച് വിജയിച്ച ഇൻഫ്രാസ്ട്രക്ചർ: ഞങ്ങളുടെ Perplexity answer engine-ലും Labs playground-ലും പ്രൊഡക്ഷൻ തലത്തിലുള്ള ട്രാഫിക് സേവനം നൽകി pplx-api വിശ്വസനീയമാണെന്ന് തെളിയിക്കപ്പെട്ടിട്ടുണ്ട്.

ഓപ്പൺ സോഴ്സ് LLM-കൾക്കായുള്ള ഒറ്റത്തവണ പരിഹാരം: പുതിയ ഓപ്പൺ സോഴ്സ് മോഡലുകൾ എത്തുമ്പോൾ അവ ചേർക്കാൻ ഞങ്ങളുടെ ടീം പ്രതിജ്ഞാബദ്ധമാണ്. ഉദാഹരണത്തിന്, റിലീസ് ചെയ്ത് ഏതാനും മണിക്കൂറുകൾക്കുള്ളിൽ പ്രീ-റിലീസ് ആക്സസ് ഇല്ലാതെതന്നെ ഞങ്ങൾ Llama, Mistral മോഡലുകൾ ചേർത്തു.

pplx-api പബ്ലിക് ബീറ്റയിലാണ്, Perplexity Pro subscription ഉള്ള ഉപയോക്താക്കൾക്ക് ഇത് സൗജന്യമാണ്.

ഒരു വാരാന്ത്യത്തിലെ ചെറിയ ഹാക്കത്തോണിനായി അല്ലെങ്കിൽ പുതിയതും നൂതനവുമായ ഉൽപ്പന്നങ്ങൾ നിർമ്മിക്കുന്നതിനുള്ള വാണിജ്യ പരിഹാരമായി pplx-api ഉപയോഗിക്കുക. ഈ റിലീസിലൂടെ ആളുകൾക്ക് ഞങ്ങളുടെ API ഉപയോഗിച്ച് എങ്ങനെ രസകരവും നൂതനവുമായ ഉൽപ്പന്നങ്ങൾ നിർമ്മിക്കാൻ കഴിയുമെന്ന് അറിയാൻ ഞങ്ങൾ আশাിക്കുന്നു. pplx-api-ക്കായി നിങ്ങൾക്ക് ബിസിനസ്സ് ഉപയോഗ കേസ് ഉണ്ടെങ്കിൽ ദയവായി api@perplexity.ai വിലാസത്തിൽ ബന്ധപ്പെടുക. നിങ്ങളിൽ നിന്ന് കേൾക്കാൻ ഞങ്ങൾ ആഗ്രഹിക്കുന്നു!

LLM ഡിപ്ലോയ്മെന്റും ഇൻഫറൻസും മോഡൽ സെർവിംഗ് പ്രകടനവും ചെലവ് കാര്യക്ഷമവുമാക്കാൻ ഗണ്യമായ ഇൻഫ്രാസ്ട്രക്ചർ ശ്രമങ്ങൾ ആവശ്യപ്പെടുന്നു. C++/CUDA-യെക്കുറിച്ചുള്ള ആഴത്തിലുള്ള അറിവില്ലാതെയും അല്ലെങ്കിൽ GPU-കളിലേക്ക് പ്രവേശനം ഇല്ലാതെയും ഡെവലപ്പർമാർക്ക് ഞങ്ങളുടെ API ഔട്ട്-ഓഫ്-ദി-ബോക്സ് ആയി ഉപയോഗിക്കാൻ കഴിയും, അതേസമയം അത്യാധുനിക പ്രകടനം ആസ്വദിക്കുകയും ചെയ്യാം. ഞങ്ങളുടെ LLM ഇൻഫറൻസ് നിങ്ങളുടെ സ്വന്തം ഹാർഡ്‌വെയർ നിയന്ത്രിക്കേണ്ട സങ്കീർണ്ണതയും ആവശ്യകതയും ഒഴിവാക്കുന്നു, ഇത് നിങ്ങളുടെ ഉപയോഗ എളുപ്പം കൂടുതൽ വർദ്ധിപ്പിക്കുന്നു.

Perplexity-യുടെ LLM API വേഗത്തിലുള്ള ഇൻഫറൻസിനായി ശ്രദ്ധാപൂർവ്വം രൂപകൽപ്പന ചെയ്യുകയും ഒപ്റ്റിമൈസ് ചെയ്യുകയും ചെയ്തിരിക്കുന്നു. ഇത് നേടുന്നതിനായി, AWS നൽകുന്ന A100 GPU-കളിൽ നൽകുന്ന NVIDIA-യുടെ TensorRT-LLM-നെ അടിസ്ഥാനമാക്കി ഞങ്ങൾ ഒരു പ്രൊപ്രൈറ്ററി LLM ഇൻഫറൻസ് ഇൻഫ്രാസ്ട്രക്ചർ നിർമ്മിച്ചു. Overview of pplx-api Infrastructure വിഭാഗത്തിൽ കൂടുതൽ അറിയുക. ഫലമായി, വാണിജ്യപരമായി ലഭ്യമായ ഏറ്റവും വേഗതയേറിയ Llama, Mistral API-കളിൽ ഒന്നാണ് pplx-api.

നിലവിലുള്ള പരിഹാരങ്ങളുമായി താരതമ്യം ചെയ്യാൻ, മറ്റ് LLM ഇൻഫറൻസ് ലൈബ്രറികളുമായി ഞങ്ങൾ pplx-api-യുടെ ലേറ്റൻസി താരതമ്യം ചെയ്തു. ഞങ്ങളുടെ പരീക്ഷണങ്ങളിൽ, ടെക്സ്റ്റ് ജനറേഷൻ ഇൻഫറൻസുമായി (TGI) താരതമ്യം ചെയ്യുമ്പോൾ pplx-api 2.92x വരെ വേഗതയേറിയ മൊത്തത്തിലുള്ള ലേറ്റൻസിയും, 4.35x വരെ വേഗതയേറിയ പ്രാരംഭ പ്രതികരണ ലേറ്റൻസിയും കൈവരിക്കുന്നു. ഈ പരീക്ഷണത്തിനായി, രണ്ട് GPU-കളിലുമായി പങ്കിട്ട Llama-2-13B-chat മോഡൽ ഉപയോഗിച്ച് 2 A100 GPU-കളിൽ സിംഗിൾ-സ്ട്രീം, സെർവർ സാഹചര്യങ്ങൾക്കായി TGI-യും Perplexity-യുടെ ഇൻഫറൻസും ഞങ്ങൾ താരതമ്യം ചെയ്തു. സിംഗിൾ-സ്ട്രീം സാഹചര്യത്തിനായി, സെർവർ ഓരോ അഭ്യർത്ഥനയും ഒന്നിന് പുറകെ ഒന്നായി പ്രോസസ്സ് ചെയ്യുന്നു. സെർവർ സാഹചര്യത്തിൽ, മാറിക്കൊണ്ടിരിക്കുന്ന ലോഡ് അനുകരിക്കുന്നതിന് ക്라이언트 വ്യത്യസ്ത അഭ്യർത്ഥന നിരക്കുകളോടെ പോയിസൺ വിതരണമനുസരിച്ച് അഭ്യർത്ഥനകൾ അയയ്ക്കുന്നു. അഭ്യർത്ഥന നിരക്കിനായി, TGI നിലനിർത്തുന്ന പരമാവധി ത്രൂപുട്ട് ആയ പരമാവധി 1 അഭ്യർത്ഥന / സെക്കൻഡ് വരെ ഞങ്ങൾ ഒരു ചെറിയ സ്വീപ്പ് നടത്തുന്നു. പ്രൊഡക്ഷൻ പെരുമാറ്റം അനുകരിക്കുന്നതിനായി വിവിധ ഇൻപുട്ട്, ഔട്ട്പുട്ട് ടോക്കൺ നീളങ്ങളുള്ള യഥാർത്ഥ ലോക ഡാറ്റ ഞങ്ങൾ ഉപയോഗിച്ചു. അഭ്യർത്ഥനകളിൽ ശരാശരി ~700 ഇൻപുട്ട് ടോക്കണുകളും ~550 ഔട്ട്പുട്ട് ടോക്കണുകളും ഉണ്ട്.

ഒരേ ഇൻപുട്ടുകൾ ഉപയോഗിക്കുകയും അഭ്യർത്ഥനകളുടെ ഒരම ഒറ്റപ്പെട്ട സ്ട്രീം അയക്കുകയും ചെയ്തുകൊണ്ട്, നിലവിലുള്ള മറ്റ് API-കൾക്കെതിരെ ഒരു പെർഫോമൻസ് ബേസ്‌ലൈൻ ശേഖരിക്കുന്നതിനായി ഞങ്ങൾ ഈ ഒരേ മോഡലിനായി Replicate-ന്റെയും Anyscale-ന്റെയും API-കളുടെ ശരാശരി ലേറ്റൻസിയും അളന്നു.

ഒരേ പരീക്ഷണ സജ്ജീകരണം ഉപയോഗിച്ച്, ലേറ്റൻസി തടസ്സമായി ഡീകോഡിംഗ് വേഗത 이용하여 TGI-ക്കെതിരെ ഞങ്ങൾ pplx-api-യുടെ പരമാവധി ത്രൂപുട്ട് താരതമ്യം ചെയ്തു. ഞങ്ങളുടെ പരീക്ഷണങ്ങളിൽ, pplx-api TGIയേക്കാൾ 1.90x-6.75x വേഗത്തിൽ ടോക്കണുകൾ പ്രോസസ്സ് ചെയ്യുന്നു, കൂടാതെ 60, 80 ടോക്കണുകൾ/സെക്കൻഡ് എന്ന ഞങ്ങളുടെ കർശനമായ ലേറ്റൻസി തടസ്സങ്ങൾ പൂർണ്ണമായി പാലിക്കുന്നതിൽ TGI പരാജയപ്പെടുന്നു. pplx-api വിലയിരുത്താൻ ഞങ്ങൾ ഉപയോഗിച്ച അതേ ഹാർഡ്‌വെയർ, ലോഡ് അവസ്ഥകളിൽ ഞങ്ങൾ TGI വിലയിരുത്തുന്നു. Replicate-ന്റെയും Anyscale-ന്റെയും ഹാർഡ്‌വെയറും ലോഡ് ഘടകങ്ങളും ഞങ്ങൾക്ക് നിയന്ത്രിക്കാൻ കഴിടില്ലാത്തതിനാൽ ഈ മെട്രിക് അവരുമായി താരതമ്യം ചെയ്യാൻ സാധ്യമല്ല.

റഫറൻസിനായി, ശരാശരി മനുഷ്യന്റെ വായനാ വേഗത 5 ടോക്കണുകൾ/സെക്കൻഡ് ആണ്, അതായത് ഒരാൾക്ക് വായിക്കാൻ കഴിയുന്നതിനേക്കാൾ വേഗത്തിൽ സേവനം നൽകാൻ pplx-api-ക്ക് കഴിയുന്നു.

Perplexity Labs - ഓരോ GPU-വിലുമുള്ള ടോക്കൺ ത്രൂപുട്ട്

ഈ ലേറ്റൻസി കണക്കുകൾ കൈവരിക്കുന്നതിന് അത്യാധുനിക സോഫ്റ്റ്‌വെയറിന്റെയും ഹാർഡ്‌വെയറിന്റെയും സംയോജനം ആവശ്യമാണ്.

NVIDIA A100 GPU-കൾ നൽകുന്ന AWS p4d instances, ക്ലാസ്സിലെ ഏറ്റവും മികച്ച ക്ലോക്ക് വേഗത ഉപയോഗിച്ച് GPU-കൾ സ്കെയിൽ ഔട്ട് ചെയ്യുന്നതിനുള്ള ഏറ്റവും ചെലവ് കുറഞ്ഞതും വിശ്വസനീയവുമായ ഓപ്ഷനായി നിലകൊള്ളുന്നു.

ഈ ഹാർഡ്‌വെയർ പ്രയോജനപ്പെടുത്തുന്നതിന് സോഫ്റ്റ്‌വെയറിനായി, LLM ഇൻഫറൻസ് ത്വപ്പെടുത്തുകയും ഒപ്റ്റിമൈസ് ചെയ്യുകയും ചെയ്യുന്ന ഒരു ഓപ്പൺ സോഴ്സ് ലൈബ്രറിയായ NVIDIA-യുടെ TensorRT-LLM ഞങ്ങൾ പ്രവർത്തിപ്പിക്കുന്നു. TensorRT-LLM എന്നത് TensorRT-യുടെ ഡീപ് ലേണിംഗ് കംപൈലറെ റാപ്പ് ചെയ്യുന്നു കൂടാതെ LLM മോഡൽ എക്സിക്യൂഷന്റെ കോൺടെക്സ്റ്റ്, ജനറേഷൻ ഘട്ടങ്ങൾക്കായി ഫ്ലാഷ് അറ്റൻഷൻ (FlashAttention), മാസ്ക്ഡ് മൾട്ടി-ഹെഡ് അറ്റൻഷൻ (MHA) എന്നിവയുടെ അത്യാധുനിക നടപ്പിലാക്കലുകൾക്കായി നിർമ്മിച്ച ഏറ്റവും പുതിയ ഒപ്റ്റിമൈസ് ചെയ്ത കേർണലുകൾ ഉൾക്കൊള്ളുന്നു.

ഇവിടെ നിന്ന്, AWS-ന്റെ ബാക്ക്ബോണും Kubernetes-ഉമായുള്ള അതിന്റെ ശക്തമായ സംയോജനവും നൂറുകണക്കിന് GPU-കൾക്ക് അപ്പുറത്തേക്ക് ഇലാസ്റ്റിക് ആയി സ്കെയിൽ ചെയ്യാനും ഡൗൺടൈമും നെറ്റ്‌വർക്ക് ഓവർഹെഡും കുറയ്ക്കാനും ഞങ്ങളെ പ്രാപ്തരാക്കുന്നു.

ഞങ്ങളുടെ API ഇതിനകം തന്നെ Perplexity-യുടെ പ്രധാന ഉൽപ്പന്ന സവിശേഷതകളിൽ ഒന്നിന് കരുത്ത് പകർന്നു കൊണ്ടിരിക്കുന്നു. ഒരു ബാഹ്യ API-ൽ നിന്ന് pplx-api-ലേക്ക് ഒറ്റ ഫീച്ചർ മാറ്റിയത് വർഷത്തിൽ $0.62M ചെലവ് ലാഭിക്കുന്നതിന് കാരണമായി, ഇത് ചെലവുകളിൽ ഏകദേശം 4x കുറവാണ്. ഗുണനിലവാരം കുറയുന്നില്ലെന്ന് ഉറപ്പാക്കാൻ ഞങ്ങൾ A/B ടെസ്റ്റുകൾ നടത്തുകയും ഇൻഫ്രാസ്ട്രക്ചർ മെട്രിക്സ് നിരീക്ഷിക്കുകയും ചെയ്തു. 2 ആഴ്ചകളിൽ, A/B ടെസ്റ്റിൽ സ്ഥിതിവിവരക്കണക്കുകൾ പ്രകാരമുള്ള കാര്യമായ വ്യത്യാസമൊന്നും ഞങ്ങൾ കണ്ടില്ല. കൂടാതെ, pplx-api-ക്ക് ദിവസേന ഒരു ദശലക്ഷത്തിലധികം അഭ്യർത്ഥനകളുടെ പ്രതിദിന ലോഡ് നിലനിർത്താൻ കഴിഞ്ഞു, ഇത് ദിവസേന ഏകദേശം ഒരു ബില്യൺ പ്രോസസ്സ് ചെയ്ത ടോക്കണുകൾ ആകുന്നു.

ഈ പ്രാരംഭ പര്യവേഷണത്തിന്റെ ഫലങ്ങൾ വളരെ പ്രോത്സാഹജനകമാണ്, കൂടാതെ കാലക്രമേണ ഞങ്ങളുടെ കൂടുതൽ ഉൽപ്പന്ന സവിശേഷതകൾക്ക് pplx-api കരുത്ത് പപകരുമെന്ന് ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു.

Perplexity Labs-ൽ pplx-api: ഓപ്പൺ സോഴ്സ് ഇൻഫറൻസ് ഇക്കോസിസ്റ്റം

വിവിധ ഓപ്പൺ സോഴ്സ് മോഡലുകൾ നൽകുന്ന ഞങ്ങളുടെ മോഡൽ പ്ലേഗ്രൗണ്ട് ആയ Perplexity Labs-ന് കരുത്ത് പകരാൻ ഞങ്ങൾ pplx-api ഉപയോഗിക്കുന്നു.

ഏറ്റവും പുതിയ അത്യാധുനിക ഓപ്പൺ-സോഴ്സ് LLM-കളിലേക്ക് പ്രവേശനം നൽകാൻ ഞങ്ങളുടെ ടീം പ്രതിജ്ഞാബദ്ധമാണ്. Mistral 7B, Code Llama 34b, കൂടാതെ എല്ലാ Llama 2 മോഡലുകളും റിലീസ് ചെയ്ത് ഏതാനും മണിക്കൂറുകൾക്കുള്ളിൽ ഞങ്ങൾ സംയോജിപ്പിച്ചു, കൂടാതെ കൂടുതൽ ശക്തവും ഓപ്പൺ സോഴ്സ് ആയ LLM-കൾ ലഭ്യമാകുമ്പോൾ അങ്ങനെ ചെയ്യാൻ പദ്ധതിയിടുന്നു.

HTTPS അഭ്യർത്ഥനകൾ ഉപയോഗിച്ച് നിങ്ങൾക്ക് pplx-api REST API ആക്സസ് ചെയ്യാൻ കഴിയും. pplx-api-ലേക്ക് ആധികാരികത ഉറപ്പാക്കുന്നതിൽ താഴെ പറയുന്ന ഘട്ടങ്ങൾ ഉൾപ്പെടുന്നു:

Perplexity അക്കൗണ്ട് ക്രമീകരണ പേജ് വഴി ഒരു API കീ സൃഷ്ടിക്കുക. മാനുവലായി പുതുക്കുന്നതോ ഇല്ലാതാക്കുന്നതോ വരെ ഉപയോഗിക്കാൻ കഴിയുന്ന ദീർഘകാല ആക്സസ് ടോക്കൺ ആണ് API കീ.

ഓരോ pplx-api അഭ്യർത്ഥനയിലും Authorization ഹെഡറിൽ ഒരു ബെയറർ ടോക്കണായി API കീ അയയ്ക്കുക.

താഴെ പറയുന്ന ഉദാഹരണത്തിൽ, മുകളിലുള്ള നിർദ്ദേശങ്ങൾ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ഒരു കീയുമായി ബന്ധ kết ചെയ്തിരിക്കുന്ന ഒരു എൻവയോൺമെന്റ് വേരിയബിളാണ് PERPLEXITY_API_KEY. ഒരു ചാറ്റ് പൂർത്തിയാക്കൽ അഭ്യർത്ഥന സമർപ്പിക്കാൻ CURL ഉപയോഗിക്കുന്നു.

bash

curl -X POST \
     --url https://perplexity.coolkeypoint.com/__p/api.perplexity.ai/chat/completions \
     --header 'accept: application/json' \
     --header 'content-type: application/json' \
     --header "Authorization: Bearer ${PERPLEXITY_API_KEY}" \
     --data '{
	"model": "mistral-7b-instruct",
  "stream": false,
  "max_tokens": 1024,
  "frequency_penalty": 1,
  "temperature": 0.0,
  "messages": [
		{
			"role": "system",
			"content": "Be precise and concise in your responses."
		},
		{
			"role": "user",
			"content": "How many stars are there in our galaxy?"
		}
	]
}'

ഇത് താഴെ പറയുന്ന പ്രതികരണം നൽകുന്നു, അതിന് content-type: application/json ഉണ്ട്

json

{
  "id": "3fbf9a47-ac23-446d-8c6b-d911e190a898",
  "model": "mistral-7b-instruct",
  "object": "chat.completion",
  "created": 1765322,
  "choices": [
    {
      "index": 0,
      "finish_reason": "stop",
      "message": {
        "role": "assistant",
        "content": " The Milky Way galaxy contains an estimated 200-400 billion stars.."
      },
      "delta": {
        "role": "assistant",
        "content": " The Milky Way galaxy contains an estimated 200-400 billion stars.."
      }
    }
  ],
  "usage": {
    "prompt_tokens": 40,
    "completion_tokens": 22,
    "total_tokens": 62
  }
}

Python കോളിന്റെ ഒരു ഉദാഹരണം ഇതാ:

python

from openai import OpenAI

YOUR_API_KEY = "INSERT API KEY HERE"

messages = [
    {
        "role": "system",
        "content": (
            "You are an artificial intelligence assistant and you need to "
            "engage in a helpful, detailed, polite conversation with a user."
        ),
    },
    {
        "role": "user",
        "content": (
            "Count to 100, with a comma between each number and no newlines. "
            "E.g., 1, 2, 3, ..."
        ),
    },
]

client = OpenAI(api_key=YOUR_API_KEY, base_url="https://perplexity.coolkeypoint.com/__p/api.perplexity.ai")

# demo chat completion without streaming
response = client.chat.completions.create(
    model="mistral-7b-instruct",
    messages=messages,
)
print(response)

# demo chat completion with streaming
response_stream = client.chat.completions.create(
    model="mistral-7b-instruct",
    messages=messages,
    stream=True,
)
for response in response_stream:
    print(response)

ഞങ്ങൾ നിലവിൽ Mistral 7B, Llama 13B, Code Llama 34B, Llama 70B എന്നിവയെ പിന്തുണയ്ക്കുന്നു, കൂടാതെ നിലവിലുള്ള ആപ്ലിക്കേഷനുകളുമായി എളുപ്പത്തിൽ സംയോജിപ്പിക്കുന്നതിന് ഈ API സൗകര്യപ്രദമായി OpenAI ക്라이언트-അനുയോജ്യവുമാണ്.

കൂടുതൽ വിവരങ്ങൾക്ക്, ദയവായി ഞങ്ങളുടെ API ഡോക്യുമെന്റേഷനും ക്വിക്ക് സ്റ്റാർട്ട് ഗൈഡും സന്ദർശിക്കുക.

സമീപ भविष्यത്തിൽ, pplx-api പിന്തുണയ്ക്കും:

കസ്റ്റം Perplexity LLM-കളും മറ്റ് ഓപ്പൺ സോഴ്സ് LLM-കളും.

കസ്റ്റം Perplexity എംബെഡിംഗുകളും ഓപ്പൺ സോഴ്സ് എംബെഡിംഗുകളും.

പബ്ലിക് ബീറ്റ ഘട്ടം ഒഴിവാക്കിയതിന് ശേഷമുള്ള ജനറൽ ആക്സസ് ഉള്ള ഡെഡിക്കേറ്റഡ് API വില ഘടന.

വസ്തുതകൾക്കും ഉദ്ധരണികൾക്കുമുള്ള ഗ്രൗണ്ടിംഗോട് കൂടിയ Perplexity RAG-LLM API.

ഈ ഉപയോഗ കേസുകളിൽ ഏതെങ്കിലും താ്തര്യമുണ്ടെങ്കിൽ api@perplexity.ai വിലാസത്തിൽ ബന്ധപ്പെടുക.

ഇത് ഞങ്ങളുടെ Perplexity ബ്ലോഗ് പോസ്റ്റ് പരമ്പരയുടെ തുടക്കം കൂടിയാണ്. ഞങ്ങളുടെ അടുത്ത പോസ്റ്റിൽ, LLM ഇൻഫറൻസിനായുള്ള A100 vs H100 പ്രകടന താരതമ്യത്തെക്കുറിച്ചുള്ള ഒരു ആഴത്തിലുള്ള വിശകലനം ഞങ്ങൾ പങ്കിടും. കാത്തിരിക്കുക!

ഞങ്ങൾ ആളുകളെ ജോലിക്കെടുക്കുന്നു! വലിയ തോതിൽ വിന്യഡിച്ചിരിക്കുന്ന ഒരു ഉൽപ്പന്നത്തിൽ പ്രവർത്തിക്കാനും ഞങ്ങളോടൊപ്പം ചിന്താപൂർവ്വം രൂപകൽപ്പന ചെയ്ത, ശ്രദ്ധാപൂർവ്വം ഒപ്റ്റിമൈസ് ചെയ്ത ജനറേറ്റീവ്, ലാർജ് ലാംഗ്വേജ് മോഡൽ ഇൻഫ്രാസ്ട്രക്ചർ നിർമ്മിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നുവെങ്കിൽ, ദയവായി ഞങ്ങളോടൊപ്പം ചേരൂ.

കൂടുതൽ ചർച്ചകൾക്കായി Twitter, LinkedIn എന്നിവയിൽ ഞങ്ങളെ ഫോളോ ചെയ്യുക, ഞങ്ങളുടെ Discord-ൽ ചേരൂ.

Lauren Yang, Kevin Hu, Aarash Heydari, William Zhang, Dmitry Pervukhin, Grigorii Alekseev, Alexandr Yarats

pplx-api തിരഞ്ഞെടുക്കുന്നതിലൂടെ, നിങ്ങളുടെ ഉപയോക്താക്കളുടെയും ഉപഭോക്താക്കളുടെയും സ്വകാര്യതയും വിശ്വാസവും സംരക്ഷിച്ചുകൊണ്ട് നിങ്ങൾക്ക് LLM-കളുടെ മുഴുവൻ സാധ്യതകളും പ്രയോജനപ്പെടുത്താം. നിങ്ങളുടെ വ്യക്തിഗത വിവരങ്ങൾ സംരക്ഷിക്കുന്നതിന്റെ പ്രാധാന്യം ഞങ്ങൾ മനസ്സിലാക്കുകയും ഞങ്ങളുടെ ഉപയോക്താക്കളുടെ സുരക്ഷയും സ്വകാര്യതയും നിലനിർത്താൻ പ്രതിജ്ഞാബദ്ധരുമാണ്. API ഡാറ്റ 30 ദിവസത്തിന് ശേഷം സ്വയമേവ ഇല്ലാതാക്കപ്പെടും, കൂടാതെ pplx-api വഴി കൈമാറുന്ന ഒരു ഡാറ്റയിലും ഞങ്ങൾ ഒരിക്കലും പരിശീലനം നടത്തുന്നില്ല. ഉപയോക്താക്കൾക്ക് അവരുടെ അക്കൗണ്ട് ക്രമീകരണങ്ങളിൽ ഡാറ്റ നിലനിർത്തുന്നതിൽ നിന്ന് ഒഴിവാകാനുള്ള ഓപ്ഷൻ ഉണ്ട്. ഞങ്ങളുടെ API സ്വകാര്യതാനയം ഇവിടെ കണ്ടെത്തുക.

pplx-api-യുടെ പ്രയോജനങ്ങൾ

ഉപയോഗ എളുപ്പം

അതിവേഗ ഇൻഫറൻസ്

pplx-api ഇൻഫ്രാസ്ട്രക്ചറിന്റെ അവലോകനം

ഉപയോഗ കേസ്: പ്രൊഡക്ഷനിൽ ഞങ്ങളുടെ API

Perplexity-യിൽ pplx-api: ചെലവ് കുറയ്ക്കലും വിശ്വാസ്യതയും

Perplexity-യുടെ AI API ഉപയോഗിച്ച് ആരംഭിക്കുക

അടുത്തത് എന്താണ്

രചയിതാക്കൾ:

ഡാറ്റ സ്വകാര്യത