Both forms are correct and equivalent.

A verb directly following another verb is generally (always?) at the infinitive (first case.)

The verb located in a proposition subordonnée is conjugated (second case.)

For me, those two versions are exactly the same, put apart the wording of the second one is rather cumbersome…
So you can use :

• dire + avoir/être + participe passé + complément (COD, CC de lieux, de temps,…)
• dire + pronom + avoir/être + participe passé (if the complement has already be defined in the sentence)
• dire + QUE + avoir/être CONJUGUÉS + participe passé
• dire + QUE + pronom + avoir/être CONJUGUÉS + participe passé (if the complement has already be defined in the sentence).

I hope I have not forgotten any case !

Ils disent l’avoir connue.

and

Ils disent qu’ils l’ont connue.

mean exactly the same thing, but the first sentence is less frequent in spoken French. A similar construction (verbe + infinitif) can be found in:

Il prétend être notre ami. (Il prétend qu’il est notre ami)

J’aimerais avoir à nouveau vingt ans. (J’aimerais que j’aie à nouveau vingt ans)

In this last example the verbe + infinitif form is more used because the repetition of "je" makes the sentence clumsy.

Les deux formes sont équivalentes. Il n’y en a pas une de vraiment plus utilisée que l’autre.

La forme avec la relative que … est un peu plus lourde (mais plus facile à construire car générique), elle ne profite pas de la forme allégée avec l’infinitif:

Les verbes d’affirmation, de sensation peuvent en général utilise cette tournure avec un infinitif, qui évite de répéter le sujet quand il est le même que celui de la principale. Il est même déconseillé d’utiliser la tournure relative dans ces cas-là :

Je dis l’avoir connue = Je dis que je l’ai connue.

J’affirme …

Je confirme …

J’avoue …

Je confesse …

Je pense manger …

J’imagine …

Je crois détenir un secret.