Next.js+Cloud RunでThe request failed because either the HTTP response was malformed or connection to the instance had an errorがでる

Next.jsを使って構築したサービスをCloud Runで動かしていると、ある時から503エラーが出るようになった。エラーメッセージは The request failed because either the HTTP response was malformed or connection to the instance had an error

利用者さんによるととにかくエラーが頻発するらしい。

OpenAIのAPIを使っていたのでもしかしたらそれかも…と思ったが、どうもそうでない場合もエラーが出たり、色んなところが重くなったりと、変な感じだった。

一応Cloud Runのエラーログにドキュメントへの誘導があるので見てみたが分からなかった。

どうしてもわからないのでとにかく解決したい一心でひたすらログを追ってみることにした。するとなんとなく原因がわかってきた。