セレクタ.attr(キー,値);

<ul id="test">
<li id="litest"></li>
</ul>

<ul id="test">
<li id="litest"></li>
</ul>

<script type="text/javascript">
$(function(){
  $("#btn1").click(function(){
    var $a = "<a id='anc'>";
    $("#litest").append($a);
    $("#anc").text("サンプル");
    $("#anc").attr("href","http://www.hp-kyoto.info/jQuery/");
    
  });
  
  $("#btn2").click(function(){
    $("#anc").empty();
  });
});
</script>