Apple Intelligenceにもある「文章の校正」をGPT-4 Turboでお試し実装してみました。
このスクリーンショットの時点はEast US 2リージョンで動かしていたのですが、やっぱり遅過ぎます。
Japan Eastにも移しましたが、それでもまだまだ…。
Responses APIがプレビューに登場したので申請していますが、人気のようでまだクォータが確保できていません。
Grokだと速いみたいですが、HIPAAやAPPIに準拠してないようですし、できればAzure OpenAIでいきたいところです。
文章部分は自由に入力できてしまうので、プロンプトインジェクションなど、まだまだ考慮しなければいけない部分がたくさんあるはずですし、いろいろ試しながら学んでいく必要があると思っています。