function myFunction() {
  let startTime = new Date();
 
  // 処理
 
  // 実行時間が５分を過ぎていれば中止
  if (isTimeout(startTime)) {
    return;
  }
}
 
function isTimeout(startTime) {
  let diff = parseInt((new Date() - startTime) / (1000 * 60));
  if (diff >= 5) {
    return true;
  }
  return false;
}

GASの最大実行時間は６分です。処理が中途半端なところで終わってしまうと厄介なので、繰り返し処理の最後の時点で５分を過ぎている場合はタイムアウトするようにします。