“I understand the idiom”

No you don’t, and that is the source of your confusion.

What that actually translates to is “I would much rather not have started with” (or in a less complex French form j’aurais de loin préféré ne pas commencer), hence the conditional required here to express a counterfactual wish since they did in fact not avoid what they did despite their wishing they had or could have.

For the sentence

Je me serais bien gardé de commencer par ce texte autobiographique quand je me suis consacré a l’écriture […]

The fact already happened, he did began by his autobiographical book when he began writing. If we just take that fact and nothing else, the passé composé would have replaced the conditionnel passé and the sentence would have been something like this:

J’ai commencé par un texte autobiographique quand je me suis consacré
à l’écriture […]

So now for the past conditionnal. Let’s take this part here:

Je me serais bien gardé de […]

Here the meaning of that part of the sentence, and it is implicit, is that he regrets to have begun his writting by an autobiographical book.

Think about it that way: when you regret something, you ask yourself what you could have done to not have regrets. That’s hypothetical, as you have no way of knowing the outcome since the action already happened, hence the conditional.

You can see that easily if you use the keyword Si to introduce the condition. That also clarifies the condition and makes it explicit:

Si j’avais pu changer le passé, je me serais bien gardé de commencer
par ce texte autobiographique quand je me suis consacré a l’écriture
[…]

Since Si j'avais pu changer le passé is generic and doesn’t add anything to the sentence, you can remove that part and juste have it implicit:

Je me serais bien gardé de commencer par ce texte autobiographique quand je me suis consacré a l’écriture[…]

edit to complete with the clarification from justerman in the comments

If he did not write an autobiographical book and it is true, rather than being hypothetical, the right use for the sentence would have been with the plus-que-parfait.

Je m’étais bien gardé de commencer par ce texte autobiographique quand
je me suis consacré a l’écriture[…]

However, if the conclusion (he did not write and autobiographical book) is true, the conditional could still be used if the condition he used was hypothetical.

Example of conditions:

He did not write an autobiographical book because:

1. He was too young (hypothetical, not the real reason)
2. He wasn’t experienced (true)

With the same conclusion, you could have the use of both the plus-que-parfait and the conditional, depending on the condition.

Je m’étais demandé si j’étais trop jeune. Je me serais bien
gardé de commencer par ce texte autobiographique quand je me suis
consacré a l’écriture […]

En réalité, je n’avais pas d’expérience. Je m’étais bien gardé de commencer par ce texte autobiographique quand je me suis consacré a l’écriture […]

other edit with the provided source (sentence in question at the 55th paragraph): http://books.openedition.org/bibpompidou/1048?lang=fr

I will quote a larger block that contains that sentence in question:

Dans le récit autobiographique, il ne s’agit pas d’explorer l’inconnu,
de l’inventer, mais de fouiller dans la mémoire pour retrouver par
l’exercice d’écriture ce qui a eu lieu réellement. Ce sont deux
positions mentales très différentes, voire opposées. Par contre, il
est certain que je n’ai pu écrire ce livre autobiographique que parce
que j’étais passé par l’apprentissage de l’écriture romanesque.
Paradoxalement, c’est parce que j’ai appris à écrire de la fiction que
j’ai pu sans trahir ma mémoire à mes propres yeux, évoquer un épisode
précieux de ma vie.
Je me serais bien gardé de commencer par ce texte autobiographique
quand je me suis enfin consacré à l’écriture : pourtant, avec ce
souvenir d’adolescence en tête, il eut été facile de faire un premier
livre. Je me suis méfié de cette fausse facilité, je sentais que c’eut
été un trompe-l’œil sur mon projet d’écrivain et que, par ailleurs, je
n’étais pas prêt – presque techniquement… – à traiter ce sujet sans
l’abîmer, à restituer les événements, leur contexte, l’époque, dans
leurs finesses, leur poésie, leur émotion… C’est alors, par absence de
métier, que j’aurais échoué à être fidèle à la mémoire, et à rester
dans l’exacte autobiographie.

To summarize that block he gives the reasons why he didn’t began with an autobiographical book. What is particular about that particular sentence you highlighted is that he talks about himself as a kid, and not as the “him” of today. The conditional is used in that sentence in that way:

Si quand j’étais petit, j’avais pensé à écrire un texte
autobiographique, je me serais gardé de le faire.

When he was a teen he did not thought about writing the text, but even if he did, he would still not have written the text, because of the reasons mentionned after the highlighted sentence.